사기꾼을 상대하는 AI 에이전트에 필요한 기억과 관찰 구조
Sara AI는 사기꾼과 대화를 이어가며 전화번호, , 사기 대본 같은 단서를 모으도록 만든 이다. 인도 가정주부처럼 로 답하며 상대가 대화를 계속하게 만드는 방식이다. 첫 버전은 말투와 역할 유지에는 성공했지만, 대화가 끝나면 모든 내용을 잊었다.
지난주에 나온 를 다시 알아보지 못했고, 같은 사기꾼이 전화번호를 바꿔도 연결해서 판단하지 못했다. 그래서 단순한 대화형 API에 설정을 붙인 수준에 가까웠고, 실제 허니팟으로 쓰기에는 부족했다. 더 쓸 만한 구조에는 세션이 끝나도 이어지는 기억, 대화 중 바로 정리되는 정보 추출, 문제가 생겼을 때 어느 단계가 실패했는지 볼 수 있는 처리 흐름이 필요하다.
는 에이전트 기억을 맡고, Cascade는 여러 요청 단계를 조립하고 추적하는 처리 흐름을 맡는 도구로 제시된다.
핵심 포인트
- Sara AI는 사기꾼과 대화하며 전화번호, , 사기 대본 같은 단서를 모으는 이다.
- 첫 버전은 역할 유지에는 성공했지만, 세션이 끝나면 기억이 사라졌다.
- 실제 운영용 에이전트에는 세션을 넘는 기억, 실시간 정보 추출, 관찰 가능한 처리 흐름이 필요하다.
- 는 에이전트 기억을, Cascade는 조립 가능한 요청 처리 흐름을 맡는 도구로 제시된다.
- 과거 대화를 전부 다시 넣기보다 필요한 기억과 를 쓰는 방식이 토큰과 비용 관리에 더 유리하다.