고객용 에이전트의 핵심은 문맥보다 신뢰성이다

영업과 고객지원에 쓰는 고객용 에이전트는 시연에서는 잘 작동해도 실제 고객에게 바로 쓰기 어렵다. 문제는 에이전트에 넣는 문맥의 양이 아니라, 그 문맥을 믿어도 되는지 구분하기 어렵다는 점이다. 고객 기록 안에는 고객이 직접 말한 내용, 직원이 추정한 내용, 지난 분기에는 맞았지만 지금은 틀린 내용, 모델이 만들어낸 내용이 섞여 있다.

검색기는 이 차이를 알아보지 못해 오래된 기록이나 환각을 실제 약속처럼 다룰 수 있다. 실제로 한 에이전트는 두 분기 전에 이탈한 고객의 오래된 거래 메모를 근거로 고객에게 확장을 축하했다. 도움이 된 방법은 고객 지식에 출처, 최신성, 행동 경계, 근거를 붙이는 것이다.

고객이 직접 말한 내용인지 추정인지, 아직 유효한 정보인지, 초안 작성까지만 허용할지 고객에게 보내거나 고객관리시스템에 기록할지는 사람이 확인해야 하는지, 에이전트가 무엇을 근거로 판단했는지를 구분해야 한다.