octomind, 긴 에이전트 작업의 토큰 낭비를 줄이는 명령줄 도구
octomind는 터미널에서 실행하는 오픈소스 에이전트 다. 긴 이 오래 이어질수록 느려지고, 판단이 흐려지고, 비용이 커지는 문제를 줄이는 데 초점을 둔다. 여러 를 연결해도 모든 도구를 처음부터 계속 문맥에 넣지 않고, 필요한 기능이 생길 때만 관련 도구를 불러온다.
한동안 쓰지 않는 도구는 LRU 방식으로 내보내서, 모델이 매번 봐야 하는 도구 목록을 작게 유지한다. 긴 대화 내용을 계속 덧붙이는 대신 중요한 구조만 남기며 을 해, 모델이 더 짧고 최신 상태의 정보로 작업하게 한다. 실행마다 을 정할 수 있고, 그 한도에 닿으면 작업을 실제로 중단한다.
그래서 재시도 루프가 조용히 예산을 계속 쓰는 일을 막을 수 있다. 역할별로 다른 모델을 고르는 기능, 코드로 쓰는 안전 규칙, MCP 지원도 포함된다.
핵심 포인트
- 터미널에서 실행하는 오픈소스 에이전트 다.
- 필요할 때만 를 불러와 전체 문맥 크기를 줄인다.
- LRU 방식으로 오래 쓰지 않은 도구를 빼서 도구 목록을 작게 유지한다.
- 으로 긴 을 계속 키우지 않게 한다.
- 에 닿으면 실행을 중단해 예산 초과를 막는다.