Ratel, 컨텍스트 부담 없이 AI 에이전트에 도구를 무제한 추가하는 오픈소스 라이브러리
Ratel은 가 아주 많은 도구와 스킬을 갖고 있어도, 매 턴마다 실제로 필요한 몇 개만 골라서 보여주는(점진적 공개) 방식으로 문맥 부담을 줄여주는 오픈소스 라이브러리다. 개발자들은 SaaS 제품 위에 에이전트를 만들 때 도구와 지시사항을 계속 늘리다 보면 문맥이 지나치게 커져서 환각(엉뚱한 답)이 잦아지고 토큰 비용이 치솟는 문제를 반복적으로 겪었고, 이를 해결하기 위해 도구를 동적으로 불러오거나 로 쪼개는 등의 임시방편을 계속 만들다가 결국 Ratel을 만들게 됐다. 과 ()을 모두 지원하며, 별도의 인프라 없이 프로세스 안에서 전부 처리된다.
이미 실제 서비스에 적용한 한 사용자는 정확도 저하 없이 첫 달에 토큰 비용을 최대 81%까지 줄였다고 밝혔다. 특정 프레임워크에 종속되지 않는 구조다.
핵심 포인트
- 도구·스킬 전체 목록은 유지하되 매 턴 필요한 것만 골라 보여주는 점진적 공개 방식
- 과 ()을 모두 지원
- 별도 인프라 없이 프로세스 내부에서 동작
- 한 자가 정확도 손실 없이 토큰 비용 최대 81% 절감
- 특정 프레임워크에 종속되지 않는 오픈소스 라이브러리