AgentWatch, AI 에이전트의 과한 사용 비용을 막는 도구
AgentWatch는 가 OpenAI, Anthropic, Gemini 같은 모델 제공사에 요청을 보내기 전에 예산 한도를 먼저 확인하는 중간 도구다. 에이전트가 반복 실행에 빠져 수백 번 요청을 보내거나 정해 둔 금액을 넘기려 하면, 실제 모델 호출이 일어나기 전에 차단한다. 기존 코드에서는 기본 주소를 AgentWatch 주소로 바꾸고 키를 합치는 방식으로 붙일 수 있으며, 별도 SDK 설치는 필요 없다고 안내한다.
지원 대상은 OpenAI, Anthropic, Gemini, Azure OpenAI, , Groq, Mistral, Cohere 등이며, Cursor, Claude Code, , Aider, Cline 같은 개발 도구에도 연결할 수 있다고 한다. 세션별 달러 예산, 반복 실행 감지 알림, 제공사 장애 시 우회 또는 차단 정책, 비용·토큰·지연시간 같은 메타데이터 기록을 제공한다. 프롬프트와 답변 본문은 저장하지 않고 메타데이터만 저장한다고 밝힌다.
는 월 5만 요청과 예산 차단 기능을 제공하고, 는 월 50만 요청, 캐싱, 장애 시 다른 제공사로 넘기는 기능, 슬랙 알림 등을 포함한다.
핵심 포인트
- 가 모델에 요청하기 전에 세션별 예산을 확인하고 초과 요청을 차단한다.
- OpenAI, Anthropic, Gemini, Azure OpenAI, 등 여러 제공사를 지원한다고 안내한다.
- Cursor, Claude Code 같은 개발 도구도 기본 주소 설정을 바꾸는 방식으로 연결할 수 있다고 한다.
- 프롬프트와 답변 본문은 저장하지 않고 비용, 토큰, 지연시간 같은 메타데이터만 저장한다고 밝힌다.
- 는 월 5만 요청을 제공하고, 는 캐싱, 장애 대응, 슬랙 알림 등을 더한다.