로컬 Embedding 기반 피드백 루프로 Recall 96.6% 달성한 AI Memory 시스템

Context

LLM의 제한적인 Context Window와 세션 휘발성으로 인한 반복적 컨텍스트 주입 오버헤드 발생. 기존의 정적 설정 파일(.cursorrules 등)은 정보 증가에 따른 모순 발생 및 관리 복잡도 증가로 인해 지속 가능한 컨텍스트 유지에 한계 노출.

Technical Solution

• 단순 저장소(Bucket) 구조에서 사용성 기반의 Feedback Loop 아키텍처로 전환
• 메모리 호출 빈도와 유효성을 기반으로 한 Dynamic Scoring 시스템 도입으로 저효율 데이터 자동 제거
• 관련 메모리 간의 연관성을 정의하는 Auto-linking 메커니즘을 통한 컨텍스트 확장성 확보
• 다중 에이전트 환경 내 메모리 충돌 방지를 위한 Namespace 격리 구조 설계
• 오픈소스 Embedding 모델 기반의 로컬 추론 환경 구축으로 데이터 보안 및 비용 문제 해결