REPL 기반 문서 분석으로 LLM 토큰 사용량 80% 절감하기
Matryoshka는 토큰 비용과 문맥 손실 문제를 해결하며, 분석 결과를 캐싱해 토큰 사용량을 80% 이상 줄입니다. 선언적 쿼리와 포인터 기반 상태 관리로 대용량 문서도 효율적으로 분석할 수 있어요! 흥미로운 점은, 작은 파일은 직접 읽고, 큰 파일은 Matryoshka로 처리해 100% 커버리지와 비용 절감을 동시에 달성한다는 것!