North Mini Code가 더 작은 용량과 로컬 실행을 지원
North Mini Code는 이제 4비트 양자화 버전으로 에서 받을 수 있다. 이 버전은 모델 크기를 줄여 약 20기가바이트 메모리만 있으면 맥이나 개인 장비에서 실행할 수 있다. Ollama에서도 바로 사용할 수 있고, 위에서 돌아가는 다른 로컬 실행 도구에서도 지원된다.
클라우드로 쓰고 싶은 경우에는 를 통해 접근할 수 있다. 핵심 변화는 코딩용 을 더 적은 장비 부담으로 로컬에서 돌리거나, 외부 API로 쉽게 붙일 수 있게 된 점이다.
핵심 포인트
- North Mini Code의 4비트 양자화 버전이 에 올라왔다.
- 약 20기가바이트 메모리가 있으면 맥이나 개인 장비에서 실행할 수 있다.
- Ollama와 기반 로컬 실행 도구를 지원한다.
- 로도 사용할 수 있어 로컬과 클라우드 선택지가 모두 생겼다.
- 로컬 실행은 반복적인 실험의 추론 비용을 낮추는 데 도움이 될 수 있다.