여러 AI 에이전트의 토큰 예산을 우선순위로 나누는 방법
여러 가 함께 일할 때 각 에이전트에 같은 방식으로 토큰 한도를 주면 낭비가 생길 수 있다. 중요한 에이전트는 작업 중간에 토큰이 부족해 멈추고, 덜 중요한 에이전트는 쓰지 않은 토큰을 남길 수 있다. Token Budget Contracts는 이 문제를 줄이기 위한 오픈소스 파이썬 라이브러리다.
각 에이전트에 우선순위와 최대 을 정해 두면, 우선순위가 높은 에이전트가 부족할 때 낮은 우선순위이거나 쉬고 있는 에이전트의 남는 토큰을 자동으로 가져올 수 있다. 반대로 낮은 우선순위 에이전트가 높은 우선순위 에이전트의 토큰을 가져가지는 않는다. 각 에이전트에는 보호 예비량이 있어 토큰을 모두 빼앗기지 않는다.
결과에 충분히 자신 있다고 판단된 에이전트는 더 이상 토큰을 쓰지 않도록 막을 수도 있다. 이 라이브러리는 이며, 의존성 없이 파이썬 기반 에이전트 구성에서 쓸 수 있고 , , AutoGen, 직접 만든 방식과 함께 사용할 수 있다고 제시된다.
핵심 포인트
- 고정 토큰 한도는 중요한 에이전트를 중간에 멈추게 하고 남는 예산을 낭비할 수 있다.
- Token Budget Contracts는 에이전트별 우선순위와 최대 을 설정한다.
- 남는 토큰은 낮은 우선순위 또는 쉬고 있는 에이전트에서 높은 우선순위 에이전트로만 이동한다.
- 보호 예비량을 두어 특정 에이전트의 토큰이 완전히 사라지지 않게 한다.
- , , AutoGen, 직접 만든 파이썬 방식과 함께 쓸 수 있다고 제시된다.