여러 AI 에이전트의 토큰 예산을 나눠 쓰는 도구 v0.3.0

token-budget-contracts는 여러 가 쓰는 토큰을 한도 안에서 관리하는 오픈소스 도구다. 에이전트마다 우선순위와 최대 토큰 수를 정하고, 작업 도중 예산이 바닥나면 쉬고 있거나 우선순위가 낮은 에이전트의 남은 토큰을 옮겨 준다. 덕분에 한 에이전트의 예산 부족으로 전체 작업이 바로 중단되는 일을 줄일 수 있다.

답에 대한 확신이 충분해지면 토큰 사용을 멈추는 기능도 있어 불필요한 지출을 억제한다. v0.3.0에는 에서 이 기능을 연결해 쓰는 전용 어댑터가 추가됐다. 에서는 각 작업 단계를 감싸고 우선순위, 최대 토큰 수, 실제 사용량을 담은 항목을 지정한다.

에서는 을 실행하는 함수를 감싸며, 사용자가 제공한 측정 함수로 정확한 사용량을 읽는다. 연동도 추가돼 예산 관리 동작을 관찰할 수 있다.

핵심 포인트

  • 각 에이전트에 우선순위와 최대 토큰 수를 따로 설정한다.
  • 예산을 다 쓴 에이전트에는 쉬고 있거나 우선순위가 낮은 에이전트의 남은 토큰을 재배정한다.
  • 답에 대한 확신이 충분하면 추가 토큰 사용을 중단한다.
  • v0.3.0은 용 어댑터를 제공한다.
  • 연동으로 예산 관리 동작을 관찰할 수 있다.
원문 보기