피드로 돌아가기
Dev.toAI/ML
원문 읽기
Knowledge Graph 기반 컨텍스트 최적화로 LLM 토큰 소모 절감
How Graphify Stopped My Team from Burning Thousands of Tokens Per Query
AI 요약
Context
코드베이스 규모 확대에 따라 기존 Cursor IDE의 순차적 파일 읽기 방식이 토큰 낭비를 초래하는 병목 지점으로 작용함. 8~12개 파일을 중복으로 분석하며 발생하는 고비용의 Context Window 소모 및 낮은 추론 효율성 해결이 필요함.
Technical Solution
- Tree-sitter AST parsing을 통한 전역 코드베이스의 로컬 Knowledge Graph 사전 구축
- 모든 함수, 클래스, 모듈을 Node로 정의하고 관계를 Edge로 연결한 Graph 구조 설계
- Raw 파일 전체 읽기 대신 Scoped Subgraph Lookup 방식을 통한 최소 필요 컨텍스트 추출
- .mdc 규칙 설정을 통한 LLM의 우선적 Graph Query 호출 유도
- Post-commit Git Hook 기반의 증분 그래프 업데이트 자동화로 최신성 유지
- Git Merge Driver 도입을 통한 graph.json 파일의 병합 충돌 방지 및 자동 Union-merge 처리
실천 포인트
- 코드베이스 50개 파일 초과 시 Knowledge Graph 도입 검토 - LLM 컨텍스트 주입 전 Tree-sitter 기반의 정적 분석 단계 추가 - .mdc 규칙의 alwaysApply 설정을 통한 AI 에이전트의 행동 제어 최적화 - 인프라 비용 절감을 위한 로컬 전처리 후 최소 데이터만 LLM에 전달하는 파이프라인 구축