로컬 Qwen 3.6으로 45일간 코딩해본 후기: 문서 있으면 최강

작성자는 로컬에서 모델을 45일 동안 로 돌려봤다. 그 과정에서 그래픽카드를 3070 Ti에서 5070 Ti와 4070 Super 조합으로 업그레이드했고, 자체 테스트 도구로 6시간 넘게 걸리는 작업 약 30건을 비교했다. 체감상 가장 나은 모델은 였고, (전체 파라미터 중 일부만 활성화하는 방식의 모델)는 지시를 잘 안 따르거나 금방 잊는 경향이 있었다.

Gemma 모델도 며칠 써봤는데 성능이 나빴고, 심지어 자신의 모국어(비영어권 언어) 문자조차 제대로 출력하지 못했다 — 반면 중국산 모델인 Qwen은 문제없이 해냈다. 코딩 작업이나 일상적인 문제 해결 능력이 뛰어났고, 라는 도구도 문제없이 실행했다(참고로 모델로는 이 도구가 작동하지 않았다고 한다). 명확한 규칙과 필요한 정보를 미리 제공하면 추측 없이 잘 처리했다.

설계 문서를 참고 자료로 주고 스펙 관련 질문 30개를 풀게 했더니 30개 모두 문서의 실제 값을 정확히 인용해 맞혔지만, 문서 없이 같은 질문을 시키자 0개를 맞혔다. 즉 이 모델은 앞에 사실이 놓여 있으면 추론을 잘하지만, 스스로 추측하는 데는 약하다. 속도 면에서도 Claude가 15분 넘게 '생각'하던 것과 비교해 훨씬 빨랐다.

핵심 포인트

  • 가장 만족스러웠던 로컬 모델은 , 명령 추종력은 35B A3B보다 우수
  • Gemma는 코딩 성능도 낮고 비영어권 문자 출력도 실패
  • 설계 문서를 컨텍스트로 주면 스펙 질문 30/30 정답, 없으면 0/30 — 사실 기반 추론엔 강하고 추측엔 약함
  • 는 Qwen에서는 작동했지만 모델에서는 작동하지 않음
  • GPU를 3070 Ti → 5070 Ti+4070 Super로 업그레이드하며 45일간 실사용 테스트
원문 보기