Checkpointing 도입으로 LLM API 비용 50% 절감 및 데이터 무결성 확보

Context

멀티 스텝 LLM 에이전트 워크플로우 내 실패 시 전체 프로세스를 재시작하는 구조적 한계 존재. 이로 인해 이미 성공한 단계의 LLM 호출이 중복 발생하며 불필요한 Token 비용이 누적되고 데이터 중복 생성 문제 야기.

Technical Solution

• pipeline_runs 테이블 도입을 통한 단계별 step_completed 체크포인트 및 step_output_ref 기록 설계
• 실패 시 rollbackPipelineRun() 함수를 통한 R2 파일 및 D1 데이터베이스 레코드의 물리적 삭제 로직 구현
• 재시도 시 기존 진행 상태를 확인하여 완료된 단계의 결과물을 캐시에서 읽어오는 Skip 로직 적용
• 저장소 쓰기 단계의 Idempotency 보장과 추론 단계의 Checkpointed Caching을 결합한 하이브리드 전략 채택
• 단순 재시작이 아닌 상태 기반 복구 구조로의 전환을 통한 중복 LLM 호출 원천 차단