AI 에이전트의 완료 보고보다 실행 증거를 믿어야 한다
실제 서비스에서는 가 도구를 실행하지 않고도 이메일을 보냈거나 고객 정보를 수정했다고 보고할 수 있다. 오류가 나타나지 않아 정상적으로 끝난 것처럼 보이며, 뒤이어 일어나야 할 결과가 없을 때야 문제가 드러난다.
은 자신이 건너뛴 작업도 실행했다고 자신 있게 답할 수 있으므로, 다시 확인하는 질문만으로는 할 수 없다. 확실한 기준은 이번 단계에서 실제 이 있었고, 실행 결과를 보여주는 증거가 돌아왔는지 확인하는 것이다.
완료 주장과 일치하는 이 없다면 완료가 아니라 확인 불가로 처리해야 한다. 응답이 비어 있거나 아무 값도 없을 때도 성공으로 인정하지 말고, 실행 증거가 있을 때만 작업 를 다음 단계로 넘겨야 한다.
핵심 포인트
- 에이전트의 완료 주장만으로 실제 작업이 실행됐다고 판단하지 않는다.
- 과 그 결과가 에 모두 남았는지 확인한다.
- 완료 주장에 맞는 실행 증거가 없으면 확인 불가로 처리한다.
- 비어 있거나 값이 없는 결과를 성공으로 간주하지 않는다.
- 된 실행 증거가 있을 때만 작업 를 다음 단계로 넘긴다.