고급 모델은 계획만, 대부분의 작업은 로컬 모델로 처리하는 에이전트
이 에이전트는 비싼 고급 모델을 모든 작업에 쓰지 않고, 설계와 계획 단계에만 쓰는 구조다. 실제 코드 작성이나 반복 작업처럼 토큰이 많이 드는 부분은 개인용 듀얼 장비에서 돌아가는 로컬 모델이 맡는다. 목표는 고급 모델의 판단력과 로컬 모델의 낮은 실행 비용을 함께 얻는 것이다.
.5/3.6 27B와 같은 로컬 모델은 성능이 좋지만, 고급 모델만큼의 감각이나 문제 해결력은 부족하다고 판단했다. 핵심 생각은 프로젝트에서 병목은 대개 구현보다 설계이며, 좋은 설계가 복잡한 코드와 재작업을 줄인다는 것이다. 구조는 로 바꿀 수 있는 3단계 방식이며, 계획 담당 모델은 처럼 결정 내용을 JSON으로 내보낼 수 있는 강한 모델을 쓸 수 있다.
기존 도구를 많이 활용하고, 각 구성요소는 필요에 따라 바꿀 수 있게 만들었다.
핵심 포인트
- 고급 모델은 전체 작업이 아니라 계획과 설계에 집중해 사용한다.
- 토큰이 많이 드는 실제 작업은 로컬 모델이 처리하도록 나눈다.
- 듀얼 같은 개인 장비를 활용해 외부 모델 사용량을 줄인다.
- 로 3단계 구성을 바꿀 수 있게 만들었다.
- 처럼 결정 내용을 JSON으로 내보낼 수 있는 모델을 계획 담당으로 쓸 수 있다.