불필요한 Boilerplate 제거를 통한 토큰 소모량 평균 67% 절감

Context

웹페이지 복사 시 본문 외 Navigation, Footer 등 불필요한 Noise 데이터가 함께 포함되는 Clipboard 특성 분석. 이로 인해 LLM Context Window 내 불필요한 토큰이 누적되어 비용 증가 및 응답 품질 저하가 발생하는 구조적 한계 존재.

Technical Solution

• Clipboard와 LLM 사이에서 Noise를 필터링하는 Interception Layer 설계
• Navigation Chrome, Footer, Marketing Boilerplate 등 비핵심 요소의 정규식 기반 제거 로직 구현
• Headings, Code Blocks, API Signatures 등 핵심 기술 정보만을 유지하는 Signal-to-Noise Ratio 최적화
• 외부 서버나 MCP 없이 단일 파일 기반의 Claude Code Skill 형태로 배포하여 Latency 최소화
• 세션 히스토리에 압축된 데이터만 유지함으로써 후속 Turn의 Input Token 누적량 억제
• Input/Output 압축 도구(caveman) 및 Routing 도구(trooper)와의 조합을 통한 End-to-End 토큰 파이프라인 구축

Impact

• GitHub README 기준 토큰 소모량 74% 절감(4,600 $\rightarrow$ 1,200 tokens)
• Research Paper(arXiv) 기준 60% 절감 및 API Documentation 기준 67% 절감
• 전체 평균 67%의 토큰 사용량 최적화 달성

Key Takeaway

LLM 애플리케이션 설계 시 Prompt 최적화뿐만 아니라 Input Data의 전처리 단계(Preprocessing Layer)를 통한 데이터 밀도 향상이 전체 시스템의 비용 효율성과 응답 정확도를 결정하는 핵심 요소임.