도구 호출 실패를 평가 문제로 볼지 보안 문제로 볼지
가 최종 답을 틀리게 내면 평가 실패로 보기 쉽다. 하지만 잘못된 도구를 부르거나, 엉뚱한 를 쓰거나, 관련 없는 파일을 읽거나, 승인 전에 쓰기 작업을 하면 성격이 다르다. 최종 답이 겉으로는 괜찮아 보여도, 이런 행동은 사고에 더 가깝게 다뤄질 수 있다.
도구를 쓰는 앱을 만들 때 이런 실패를 어디에 기록해야 하는지가 핵심 쟁점이다. 후보는 평가 기록, 앱 사용 기록, 기록, 또는 세 곳 모두다.
핵심 포인트
- 나쁜 최종 답변은 보통 평가 실패로 할 수 있다.
- 잘못된 , 엉뚱한 사용, 무관한 파일 읽기는 문제일 수 있다.
- 승인 전에 쓰기 작업을 하는 행동은 최종 답이 맞아도 위험하다.
- 실패는 평가 기록, 앱 사용 기록, 기록에 함께 남길 수 있다.
- 에이전트 비용 관점에서는 실패한 호출을 따로 추적해야 낭비를 줄일 수 있다.