AI 에이전트의 '기억' 관리: 마크다운 메모냐 벡터DB냐
가 대화 문맥을 어떻게 기억하고 관리해야 하는지에 대한 질문이다. 옵시디언() 같은 마크다운 파일 형태로 정보를 정리하는 방식이 하루 동안의 '작업 기억(working )' 역할을 하는 것인지, 아니면 (RAG, augmented generation) 시스템을 대체할 수 있는 것인지가 핵심 쟁점이다.
카파시(Karpathy) 스타일의 LLM-위키 방식과 장기적인 문맥 학습 방식 중 어느 쪽이 더 유용한지 의견이 엇갈린다. 마크다운 디렉토리에 쌓인 단기 기억을 기반의 장기 기억으로 옮겨 저장하는 구체적인 알고리즘이 있는지, 그리고 오래된 장기 기억을 어떻게 정리(가지치기)하고 유지보수하는지에 대한 방법을 찾고 있다.
핵심 포인트
- 옵시디언 스타일 마크다운 메모가 '하루 동안의 작업 기억' 역할을 하는지, 아니면 RAG를 대체하는지에 대한 질문
- LLM-위키 방식과 장기 문맥 학습 방식의 유용성 비교에 대한 의견 차이 존재
- 마크다운 형태의 단기 기억을 장기 기억으로 옮기는 구체적 알고리즘을 찾는 중
- 장기 기억을 어떻게 가지치기하고 유지보수하는지에 대한 방법도 함께 질문