AI 에이전트 실패는 반복문보다 도구 설계에서 자주 생긴다
를 만들 때 기본 반복 구조는 보통 짧고 단순해서 문제의 핵심이 아닌 경우가 많다. 실제로는 에이전트가 외부 세상과 만나는 에서 오류가 먼저 생긴다. 도구 설명이 한 줄뿐이면 모델은 어떤 입력을 넣어야 하는지, 은 무엇인지, 결과가 어떤 형태로 돌아오는지 알기 어렵다.
Anthropic의 안내도 도구 성능에서 자세한 설명이 매우 중요하며, 도구마다 여러 문장으로 설명하라고 권한다. 비슷한 도구가 너무 많이 나뉘어 있어도 문제가 된다. 같은 대상을 만들기, 고치기, 지우기로 따로 나누면 모델은 매번 어떤 도구를 골라야 할지 헷갈릴 수 있다.
관련 기능을 더 적은 수의 잘 이름 붙인 도구로 묶고, 명확한 작업 를 주면 잘못된 도구 선택을 줄일 수 있다. 도구 결과가 큰 원본 덩어리로 돌아오면 토큰을 많이 쓰고, 모델이 필요한 정보만 골라 쓰기 어려워진다.
핵심 포인트
- 구조보다 에서 문제가 생기는 경우가 많다.
- 도구 설명에는 입력값, , 반환 결과를 구체적으로 적어야 한다.
- 비슷한 도구가 너무 많으면 모델이 잘못된 도구를 고르기 쉽다.
- 관련 기능은 명확한 작업 를 가진 더 적은 도구로 묶을 수 있다.
- 큰 원본 결과를 그대로 반환하면 토큰을 많이 쓰고 비용이 늘어난다.