로컬 코딩 자동완성 모델 선택의 현실적 고민
오랫동안 7B 양자화 모델과 llama. 을 함께 써서 코딩 자동완성을 처리해 왔다. 이 조합은 아직 쓸 수 있지만, Cursor 같은 클라우드 도구와 비교하면 성능 차이가 커지고 있다. Qwen3 Coder와 Qwen3 Coder Next는 작동하지만 너무 커서 부담이 된다.
큰 3090 그래픽카드들은 를 대화형·에이전트용으로 돌리는 데 쓰고 있어서, 자동완성용으로는 3060 한 장이나 로컬 맥북 정도만 남는다. Qwen3는 자동완성에 맞지 않았고, .5와 .5 Base는 보다 훨씬 느리고 기본적인 완성만 가능했다. Granite 4도 작동은 하지만 보다 품질이 낮았다.
핵심 고민은 나 큰 Qwen3 Coder 계열 말고, 가벼우면서도 쓸 만한 로컬 자동완성 모델이 있는지다.
핵심 포인트
- 7B 양자화 모델은 아직 쓸 수 있지만 클라우드 코딩 도구보다 약하다고 느껴진다.
- Qwen3 Coder 계열은 작동하지만 자동완성 전용으로 쓰기에는 너무 크다.
- 큰 그래픽카드는 대화형·에이전트용 모델에 쓰이고, 자동완성에는 더 작은 장비만 남는다.
- Qwen3, .5, Granite 4는 이 사용 사례에서 보다 만족도가 낮았다.
- 로컬 자동완성은 비용을 줄일 수 있지만, 속도와 품질을 동시에 맞추기 어렵다.