AI 에이전트가 폐기된 결정을 다시 자신있게 제안하는 문제, 직접 만든 메모리로 해결
를 쓰다 보면 단순히 내용을 잊어버리는 것보다 더 심각한 문제가 있다. 한 달 전에 시도했다가 버린 방법을 에이전트가 다시 확신에 차서 제안하거나, 2주 전에 이미 교체된 결정을 여전히 유효한 것처럼 취급하며 계획을 세우는 경우다. 문제가 겉으로 드러나지 않고 조용히 시간만 낭비하게 만든다. 흔한 은 '잊어버림'은 고쳐주지만, '과거에 대해 확신에 차서 틀리는' 문제는 고치지 못한다.
이는 정보를 다시 찾아오는 문제가 아니라, 그 정보의 현재 상태(유효한지, 폐기됐는지, 검증 안 됐는지)를 판단하는 문제이기 때문이다. 이를 해결하기 위해 3개월에 걸쳐 라는 도구를 만들었다. 에이전트와의 대화에서 이 자동으로 프로젝트의 을 로 구축해주기 때문에, 에이전트가 따로 저장을 기억할 필요가 없다. 핵심 설계는 두 가지다.
첫째, 시도했다가 포기한 방법들을 목록으로 명시적으로 관리하고, 에이전트가 새로운 제안을 하기 전에 반드시 이 목록을 먼저 확인하도록 학습시킨다. 둘째, 각 결정에는 그 이유와 함께 고려됐던 대안들도 함께 기록한다. 이 프로젝트는 오픈소스로 공개됐다.
핵심 포인트
- 에이전트가 이미 버린 결정이나 방법을 다시 자신있게 제안하는 '조용한' 실패가 반복적인 재작업을 유발한다
- 이 문제는 정보 회상이 아니라 정보의 현재 상태(유효/폐기/미검증) 판단 문제라는 진단
- 는 에이전트 대화에서 로 자동 구축되는 프로젝트 추론 그래프 도구
- 시도 후 포기한 방법들을 명시적 목록으로 관리하고, 제안 전 확인하도록 설계
- 결정마다 이유와 함께 검토했던 대안도 기록, 오픈소스로 공개됨