에이전트가 같은 실패를 반복해 토큰 비용을 태우는 문제
실제 서비스에서 를 돌릴 때 비용이 꾸준히 늘어나는 것보다 더 큰 문제는 실패한 행동을 계속 다시 시도하는 경우다. 에이전트가 매번 계획을 조금씩 바꾸며 같은 막힌 지점을 반복하면, 정해 둔 예산이 빠르게 사라질 수 있다. 전체 는 손실을 멈추게 할 수 있지만, 어떤 분기나 이 돈을 가장 많이 썼는지는 알려주지 않는다.
운영 단계에서는 호출별 비용과 도구별 비용을 따로 기록해야 원인을 찾기 쉽다. 중단 기준도 단순한 총액 한도만으로는 부족하며, 더 이상 진전이 없을 때 멈추는 규칙까지 함께 고민해야 한다.
핵심 포인트
- 가 실패한 행동을 반복하면 이 빠르게 소진될 수 있다.
- 전체 는 비용 폭주를 막지만, 원인 분석에는 부족하다.
- 호출별 비용과 도구별 비용을 기록하면 어떤 단계가 돈을 썼는지 찾기 쉽다.
- 중단 기준은 금액 한도뿐 아니라 진전 없음도 함께 봐야 한다.
- 에서는 루프를 빨리 발견하는 관찰 장치가 필요하다.