코딩 에이전트의 토큰 낭비를 줄이는 '코드맵' 아이디어
Agentlas라는 도구를 만든 개발자가 토큰 소비를 줄이기 위한 새 방식을 시도했다. 원래 이 도구는 사람이 직접 승인하는 절차를 중심에 두고, 과 메모리 정리에 의존하는 구조였다. 이후 여러 에이전트를 동시에 굴리는 스웜 기능을 추가했더니 토큰 소비가 크게 늘어나는 문제가 나타났다.
원인은 두 가지다. 첫째, 스웜은 매번 독립된 새 세션으로 시작하기 때문에 를 처음부터 다시 탐색해야 한다. 둘째, 스웜을 쓰지 않아도 새 세션에서 코드를 수정하려면 코드 탐색에 많은 시간이 든다.
가 커질수록 그렙()으로 검색하고, 추측하고, 에러를 열어보는 과정에서 이 소진되는 문제와, 메모리 기록만 참고하고 실제 코드를 읽지 않아 놓치는 문제가 함께 커진다. 개발자는 이 두 병목의 공통 원인을 '저장 공간이 아니라 주의(attention) 비용'이라고 정의했다. 해결 는, UI 페이지마다 태그를 붙여 지도처럼 구조화했던 작업에서 착안해, 코드에도 같은 방식의 '코드맵'을 만들어 에이전트가 전체를 훑지 않고 필요한 부분만 바로 찾아가게 하는 것이다.
핵심 포인트
- Agentlas라는 도구 개발자가 공유한 토큰 절감
- 스웜(여러 에이전트 동시 실행) 기능 추가 후 토큰 소비가 급증
- 문제 원인 1: 스웜은 매 세션마다 코드를 처음부터 재탐색
- 문제 원인 2: 가 커질수록 그렙-추측-에러 확인 과정에서 컨텍스트가 소진됨
- 해결책: 처럼 페이지·코드에 태그를 달아 '코드맵'을 만들어 필요한 부분만 바로 탐색