에이전트 도구 호출 실패를 줄이는 실무 방식
이나 단계에서는 에이전트가 잘 작동해도, 실제 서비스에 올리면 이 자주 실패할 수 있다. 문제는 항상 모델이 잘못된 도구 입력값을 지어내는 데서만 생기지 않는다. 더 흔한 실패는 자체가 일어나지 않았는데도 에이전트가 조용히 성공했다고 처리하는 경우다.
여러 시도 끝에 효과가 있었던 방식은 도구가 모델의 긴 설명문이 아니라 실제 상태를 반환하게 만드는 것이다. 이렇게 하면 에이전트가 말로 성공을 꾸미는 대신, 작업이 실제로 어떤 상태인지 확인하기 쉬워진다.
핵심 포인트
- 에서는 잘 되던 에이전트가 실제 서비스에서는 실패할 수 있다.
- 실패 원인은 항상 잘못된 도구 입력값만은 아니다.
- 이 아예 없었는데도 성공으로 처리되는 경우가 있다.
- 도구는 설명문보다 실제 상태를 반환하는 편이 더 안전하다.
- 검증 가능한 상태 반환은 와 수동 확인 부담을 줄이는 데 도움이 된다.