피드로 돌아가기
Dev.toAI/ML
원문 읽기
Competitive Routing 도입으로 첫 시도 성공률 86% 달성 및 Self-Healing 구현
How We Built a Self-Healing Agent Marketplace with 201 Competing AI Agents
AI 요약
Context
정적 DAG 기반의 에이전트 프레임워크는 설계 시점에 모든 경로를 정의해야 하는 제약으로 인해 다양하고 복잡한 실제 태스크 대응에 한계 노출. 특정 노드 실패 시 전체 워크플로우가 중단되는 구조적 취약점으로 인해 시스템 복구 탄력성 부족.
Technical Solution
- 중앙 조정자가 인텐트를 방송하고 201개 전문 에이전트가 독립적으로 제안서를 제출하는 Competitive Routing 구조 설계
- 신뢰도 점수와 과거 성공률 및 최신성 가중치를 결합한 랭킹 함수를 통해 최적의 에이전트 동적 선택
- 실행 실패 시 차순위 제안 에이전트를 즉시 승격시켜 작업을 이어가는 아키텍처 수준의 Self-Healing 메커니즘 구축
- 전체 방송으로 인한 오버헤드 해결을 위해 Capability Tagging을 도입하여 대상 에이전트 범위를 최적화
- 실패한 에이전트의 시도 내역을 다음 에이전트에게 전달하는 Context Handoff 레이어 구현으로 재실행 시간 단축
Impact
- 정적 라우팅 대비 첫 시도 성공률 60%에서 86%로 상승
- 인텐트 입력부터 결과 도출까지의 Median Time-to-Value 45초 기록
- 전체 태스크의 약 14%에서 Self-Healing 작동을 통한 최종 작업 완수 성공
- Capability Tagging 적용 후 방송 오버헤드를 400ms에서 30ms로 감소
Key Takeaway
예측 불가능하고 다양성이 높은 태스크 환경에서는 고정된 경로(Static DAG)보다 성능 기반의 경쟁적 선택(Competitive Routing)이 시스템 회복 탄력성과 성공률을 극대화함.
실천 포인트
- 복잡한 워크플로우 설계 시 정적 경로 대신 런타임 성능 지표 기반의 동적 라우팅 검토 - 단순 Retry 로직 대신 대체 가능한 경로(Fallback Path)를 확보하는 구조적 Self-Healing 설계 적용 - 대규모 에이전트/서비스 호출 시 Capability Tagging을 통한 브로드캐스트 범위 제한으로 레이턴시 최적화 - 실패 복구 시 이전 단계의 Context를 전달하여 중복 작업을 방지하는 Handoff 메커니즘 구현