AI 에이전트의 반복·시간·토큰 제한은 어디에 둘까
시스템에는 과도하게 길거나 비싸지는 실행을 멈추는 제어 기능을 어디에 둘지 정해야 한다. 선택지는 나 같은 안, 별도의 운영 계층, 또는 그 밖의 구조다.
필요한 기능은 끝없는 반복을 끊는 장치, 제한 시간, 토큰 한도이며, 핵심 목표는 에이전트 본체 코드를 불필요하게 키우지 않는 것이다. 실제 운영 사례나 방식별 비교, 검증된 권고안은 없어 결론은 열려 있다.
핵심 포인트
- 반복 중단, 제한 시간, 토큰 한도의 위치를 정해야 한다.
- 나 내부에 제어 기능을 넣는 방안이 있다.
- 제어 기능을 별도의 운영 계층으로 분리하는 방안도 있다.
- 에이전트 본체 코드가 복잡해지지 않도록 하는 것이 설계 목표다.
- 실제 운영에 근거한 최종 해법은 제시되지 않았다.