에이전트가 실수를 고치다 비용을 태우는 문제
에서 를 돌릴 때, 에이전트가 한 번 실수한 뒤 스스로 고치려다 비용을 계속 늘리는 문제가 생길 수 있다. 같은 실패 동작을 반복하거나, 진전 없이 다시 시도하면서 을 소모한다. 이 과정은 결과를 개선하지 못한 채 청구 비용만 키울 수 있다.
실제로 에이전트를 운영하는 사람들은 이런 반복이 얼마나 자주 생기는지, 최악의 비용 사례가 얼마였는지, 비용 폭주를 어떻게 막는지 고민하고 있다. 현재 대응 방식으로는 , 수동 중지 장치, 또는 비용을 그대로 감수하는 방식이 거론된다.
핵심 포인트
- 에이전트가 실수를 고치려다 같은 실패 동작을 반복할 수 있다.
- 진전 없는 는 을 쓰기 때문에 비용을 빠르게 늘릴 수 있다.
- 에서는 비용 폭주와 반복을 따로 해야 한다.
- 대응책으로 , 수동 중지 장치, 반복 감지가 필요하다.