긴 작업에서 LLM 문맥을 매번 작게 다시 짜는 ContextForge
는 LLM이 긴 작업을 할 때 전체 대화 기록을 계속 들고 가지 않고, 매 단계마다 필요한 내용만 골라 작은 문맥을 다시 만드는 방식이다. 핵심 생각은 을 오래 저장하는 기억 공간이 아니라, 지금 작업에 필요한 작업대처럼 다루는 것이다.
여기에 라는 구조화된 기억 층이 추가되어, 기록을 단순한 로그로 쌓는 대신 오래 남고 찾아볼 수 있는 지식 형태로 정리한다. 이 방식은 긴 실행에서 답변의 일관성을 높이는 데 도움이 되었다.
공개 저장소에는 180일, 500일 같은 긴 기간을 가정한 벤치마크 결과가 들어 있으며, 시스템을 한 번의 대화가 아니라 오래 살아 있는 과정처럼 시험한다. Bench와도 비교하고 있는데, 이 벤치마크는 단순히 정보를 다시 찾는지만 보지 않고 긴 작업에서 기억을 어떻게 쓰는지도 확인한다.
핵심 포인트
- 전체 대화 기록을 계속 넣지 않고, 매 단계마다 필요한 문맥만 다시 만든다.
- 을 기억 공간이 아니라 지금 작업을 위한 작업대처럼 다룬다.
- 는 긴 기록을 찾아볼 수 있는 지식 구조로 정리한다.
- 180일과 500일 같은 긴 실행을 가정한 벤치마크 결과가 공개 저장소에 있다.
- Bench와 비교해 긴 작업에서 기억 사용을 평가한다.