에이전트 메모리는 한 가지 기능이 아니다
는 하나의 기능처럼 보이지만, 실제로는 여러 방식이 서로 다른 일을 맡는다. 실무에서는 모든 메모리 방식을 다 쓰기보다 보통 두세 가지만 조합해 쓰는 경우가 많다.
첫 번째 방식은 현재 대화나 작업 안에 들어 있는 내용을 바로 기억하는 작업용 메모리다. 예를 들어 긴 대화, 코딩 작업, 여러 파일을 오가는 작업에서는 에이전트가 방금 한 일과 다음에 해야 할 일을 잊지 않아야 한다.
Letta라는 프로젝트는 모델의 을 컴퓨터의 램처럼 다루며, 중요한 내용은 바로 볼 수 있게 남기고 오래된 내용은 검색 가능한 저장소로 옮긴다. 단점은 이 무한하지 않고, 토큰이 늘어날수록 비용이 든다는 점이다.
핵심 포인트
- 는 하나가 아니라 여러 방식의 묶음이다.
- 실제 에이전트는 보통 모든 메모리 방식을 쓰지 않고 필요한 몇 가지만 쓴다.
- 작업용 메모리는 지금 대화나 작업에 바로 들어 있는 내용을 뜻한다.
- 긴 작업에서는 현재 목표, 최근 변경, 다음 단계가 안에 남아 있어야 한다.
- 은 제한이 있고 토큰이 많아질수록 비용이 늘어난다.