RAG와 메모리를 나누면 AI 에이전트가 더 오래된 맥락을 다룰 수 있다
에서 검색과 는 서로 관련이 있지만 같은 역할은 아니다. 는 지금 답변하는 데 어떤 문맥이 관련 있어 보이는지 찾는 데 가깝다. 는 그 정보가 당시에는 사실이었는지, 나중에 낡은 정보가 되었는지, 중요하지 않아 사라져도 되는지, 어떤 결정을 설명하기 때문에 보존해야 하는지를 함께 판단해야 한다.
이 차이는 고정된 문서가 아니라 사람, 프로젝트, 메시지, 일정, 작업, 의사결정처럼 계속 바뀌는 업무 문맥을 다룰 때 더 커진다. Li는 이런 문제를 실험하는 이다.
핵심 포인트
- 는 지금 필요한 관련 문맥을 찾는 데 초점이 있다.
- 는 정보의 시간, 신선도, 중요도, 보존 이유까지 다뤄야 한다.
- 업무 메시지, 일정, 작업, 결정처럼 계속 변하는 데이터에서는 검색만으로 부족할 수 있다.
- 좋은 은 에이전트가 불필요한 문맥을 덜 읽게 해 토큰 사용을 줄일 가능성이 있다.
- Li는 으로 이 구분을 실험한다.