피드로 돌아가기
Microsoft FastContext: a Repo-Explorer Subagent Cuts Coding-Agent Tokens 60%: Explorer-Subagent Context Offloading
Dev.toDev.to
AI/ML

Explorer Subagent 도입을 통한 Token 소모 60% 절감 및 효율적 Context 관리

Microsoft FastContext: a Repo-Explorer Subagent Cuts Coding-Agent Tokens 60%: Explorer-Subagent Context Offloading

pueding2026년 6월 17일8advanced

Context

Coding Agent가 Repository 검색 시 대량의 raw file을 Main Context에 직접 로드하여 발생하는 Token 낭비 및 Context Window 포화 문제 발생. GPT-5.4 분석 결과 Tool-use Turn의 56.2%와 전체 Token의 46.5%가 단순 탐색 과정에서 소모되는 비효율 확인.

Technical Solution

  • Main Agent와 독립된 4B-30B 규모의 Explorer Subagent를 설계하여 Context Offloading 구현
  • Read/Glob/Grep 등의 Read-only Tool을 Subagent에 전담시켜 Main Context의 오염 방지
  • 원본 파일 전체가 아닌 File-line Citation 형태의 압축된 포인터만 Main Agent에 전달하는 구조 채택
  • SFT(Supervised Fine-tuning)를 통한 쿼리-탐색 쌍의 모방 학습 수행
  • Task-grounded RL을 적용하여 하위 작업 해결에 실질적 도움이 되는 증거 추출 능력 최적화
  • Main Agent의 추론 영역과 Subagent의 탐색 영역을 분리한 Architecture-level의 격리 전략 구현

1. LLM 기반 시스템 설계 시 Token 소모가 가장 큰 병목 지점(Bottleneck)을 정량적으로 분석했는가

2. 모든 정보를 Main Context에 넣는 대신, 검색-요약-전달의 파이프라인을 가진 Subagent 도입이 가능한가

3. 정밀한 정보 추출을 위해 SFT 외에 최종 Task 성공률과 연동된 RL Reward 설계가 고려되었는가

원문 읽기