LLM Call 7회에서 2회로 단축한 결정론적 Orchestrator 패턴 도입

Context

기존 Agentic Loop 방식은 LLM이 추론과 제어 흐름을 동시에 담당하여 실행 경로의 불확실성이 높음. 이로 인해 요청마다 Latency 변동이 심하고 Side Effect 제어가 어려우며 관찰 가능성이 낮다는 한계 존재.

Technical Solution

• Decision과 Execution의 완전한 분리를 통한 결정론적 제어 구조 설계
• Route(LLM #1) → Execute(Deterministic Code) → Synthesize(LLM #2)의 3단계 파이프라인 구축
• Agent를 단순 함수(ExecuteFn)와 JSON-Schema 정의체로 추상화한 Registry 기반 관리
• 독립적 작업의 Promise.all 처리를 통한 병렬 실행 최적화 및 Latency 감소
• 순차적 작업 필요 시 plan_execution 메타 도구를 통한 명시적 실행 순서 정의
• LLM 개입을 배제한 Execute 단계 설계를 통해 Unit Test 가능성과 디버깅 효율 확보