MCP 도구를 필요한 것만 보여줘 토큰 비용을 줄이는 라우터
MCP-Dynamic-Router는 클로드 같은 가 매번 모든 설명을 읽지 않게 하는 중간 라우터다. 일반적인 MCP 사용 방식은 연결된 서버와 를 모두 에 넣는 경우가 많다. 문맥 창이 20만 토큰까지 가능하더라도, 실제 작업에 필요 없는 도구 100개를 매번 넣으면 비용이 커진다.
도구 설명이 너무 많으면 모델이 어떤 도구를 써야 하는지 헷갈리고, 실제 도구 인자와 다른 값을 지어내는 오류도 늘 수 있다. 또한 세션 중간에 도구를 더하거나 빼려면 전체 문맥을 다시 불러와야 하는 운영 불편이 생긴다. MCP-Dynamic-Router는 먼저 작업 설명을 보고 필요한 도구 2~3개만 모델에 보여주는 방식으로 이 문제를 줄이려 한다.
음성·채팅 흐름에서는 사용자가 말하는 중간에도 일부 문장을 보고 도구 연결을 미리 준비할 수 있고, 도구 설명과 요청이 정확히 맞으면 1밀리초 미만의 빠른 경로로 연결할 수 있다. 맞는 도구가 없을 때는 억지로 실행하지 않고 추가 질문이나 도구 없음 결정을 내리도록 설계됐다.
핵심 포인트
- 정의를 매번 모두 넣으면 비용이 커질 수 있다.
- 도구 설명이 많으면 모델이 잘못된 도구 인자를 지어내는 오류가 늘 수 있다.
- MCP-Dynamic-Router는 작업에 맞는 도구 2~3개만 모델에 보여주는 게 목표다.
- 음성·채팅에서는 사용자가 말하는 중간에 도구를 미리 준비할 수 있다.
- 맞는 도구가 없으면 실행을 강행하지 않고 추가 질문이나 도구 없음으로 처리한다.