에이전트 메모리는 수정된 값을 다시 틀릴 수 있다
에서 임베딩 유사도만 쓰면 ‘같은 말 반복’과 ‘이전 말을 뒤집는 수정’을 잘 구분하지 못할 수 있다. 코사인 점수로 둘을 가르는 성능은 0.59 정도로, 거의 찍기에 가깝다. 예를 들어 지역이 프랑크푸르트라고 했다가 오하이오로 고쳤는데, 나중에 옛 값인 프랑크푸르트가 다시 언급되면 메모리가 그 옛 값을 현재 값처럼 되살릴 수 있다.
작은 합성 테스트에서는 먼저 값을 고치고, 나중에 옛 값을 다른 말로 다시 넣은 뒤, LLM에게 현재 값을 물었다. 표본은 30개라 정식 가 아니라 작동 확인용이다. 방어 장치가 없는 단순 키-값 는 거의 항상 나중에 다시 나온 옛 값을 이겼고, 를 권장 설정인 와 text--3-small로 돌리면 수정된 값이 돌아온 비율이 대략 30~63%, 중심값은 약 47%였다.
반대로 ‘이미 교체된 값’ 표시를 두는 방식은 옛 값이 되살아나는 비율이 약 0%였다. 다만 ‘예전 것으로 되돌려’처럼 값을 직접 말하지 않는 표현은 아직 어려운 경우로 남아 있다.
핵심 포인트
- 임베딩 유사도는 중복과 모순을 잘 구분하지 못할 수 있다.
- 작은 테스트에서 단순 키-값 는 옛 값이 거의 항상 다시 살아났다.
- 권장 설정에서는 수정된 값이 유지된 비율이 약 47%였다.
- 이미 교체된 값이라는 표시를 두면 옛 값 부활을 거의 막았다.
- 값을 직접 말하지 않는 ‘되돌려’ 같은 표현은 여전히 어려운 문제다.