로컬 소형 모델로 에이전트 메모리 비용을 줄이는 MemLedger
MemLedger는 의 장기 기억을 외부 클라우드가 아니라 개인 컴퓨터 안에서 처리하는 메모리 프레임워크다. 대화 기록은 하나의 파일에 저장되고, 기억을 뽑아내고 순서를 다시 매기고 충돌을 정리하는 작업은 사용자가 지정한 모델이 맡는다. 실제 사용 예시는 로 실행한 이며, 기억 추출은 창작이 아니라 정해진 JSON 형식으로 답하는 작업이라 작은 모델로도 충분하다는 주장이다.
핵심은 각 기억에 출처 추적 체인이 붙는다는 점이다. 에이전트가 “사용자는 을 선호한다” 같은 기억을 갖게 된 이유를 확인하면, 어떤 세션의 어떤 원문 문장에서 나왔는지, 어떤 모델과 프롬프트가 추출했는지, 신뢰도와 승인 기록이 무엇인지까지 거슬러 올라갈 수 있다. 잘못된 기억은 원인 기록을 지우고, 그 기록에서 파생된 기억까지 함께 삭제할 수 있다.
로 공개된 개인 프로젝트 성격의 도구다.
핵심 포인트
- MemLedger는 에이전트 장기 기억을 없이 로컬에서 처리한다.
- 대화와 기억 데이터는 하나의 파일에 저장된다.
- 같은 작은 모델도 JSON 형식의 기억 추출 작업에는 충분할 수 있다는 주장이다.
- 각 기억은 원문 문장, 모델, 프롬프트, 신뢰도, 승인 기록까지 추적할 수 있다.
- 잘못된 기억은 원인과 파생 기록을 함께 삭제할 수 있다.