KV Cache 도입을 통한 LLM 추론 복잡도 O(n³)에서 O(n²)로 최적화
KV Cache in LLMs: The Optimization That Makes Modern AI Models Feel Fast
Autoregressive Generation 구조로 인한 Output 비용 4배 증가 및 KV Cache 최적화
Part 8 — Token-by-Token: Why AI Generates Text One Word at a Time (And Why It Costs 4x More)
토큰 처리 방식에 따른 비용 격차 분석 및 Prompt Caching 기반 비용 최적화 전략
Input vs Output vs Reasoning Tokens Cost - LLM Pricing Explained
nanoVLM에서 KV Cache를 구현해 자동회귀 생성 중 불필요한 재연산을 제거함으로써 38% 속도 향상
KV Cache from scratch in nanoVLM