MCP 도구 정의만으로 매 요청에 1만여 토큰이 들었다
직접 구성한 에이전트에 를 하나씩 늘리자, 알맞은 도구를 고르는 정확도가 서버 수에 거의 비례해 꾸준히 낮아졌다. 가 제공하는 모든 도구의 이름, 설명, 입력용 와 각 항목의 설명이 매 요청마다 다시 전송됐다. 서버 4개에서 도구는 약 60개였고, 이 정의만 1만1천~1만2천 토큰을 차지했다.
모델의 기본 지시문은 2천 토큰 미만이어서, 실제 작업을 시작하기 전부터 도구 설명이 훨씬 큰 공간을 쓰고 있었다. 비용뿐 아니라 도구 선택도 문제였다. 자동으로 만든 길고 비슷한 설명이 반복되면서, 각 도구를 구별하는 중요한 정보가 묻혔다.
도구 수를 무조건 줄이기보다 반복 문구와 불필요하게 자세한 입력 설명을 줄이는 방향이 도움이 됐다.
핵심 포인트
- 정의는 첫 요청에만 보내는 것이 아니라 매 요청마다 다시 전송됐다.
- 도구 이름과 설명뿐 아니라 전체 와 각 입력 항목의 설명도 포함됐다.
- 서버 4개와 도구 약 60개에서 정의가 1만1천~1만2천 토큰을 사용했다.
- 서버 수가 늘수록 알맞은 도구를 고르는 정확도가 거의 일정한 흐름으로 낮아졌다.
- 반복되는 자동 생성 문구를 줄이고 도구별 차이가 잘 보이게 만드는 것이 핵심 개선 방향이었다.