작은 모델로 코딩을 돕는 흐름이 계속 커지고 있다
작은 을 이용해 코딩을 돕는 방식에 실제 가능성이 있다는 주장이다. 최근 공개 커뮤니티에서는 으로 만든 결과물을 비판하는 목소리가 많다. 작은 기능 하나만 하는 도구가 많고, 실제 영향이 작다는 불만도 있다.
하지만 잘 설계된 코드는 으로 만들어졌더라도 다른 사람이 함께 고치고 발전시키기 쉽다. Google도 같은 작은 모델을 대상으로 해커톤을 열고 있다. 이 모델은 초당 1,500 토큰 수준의 추론 속도를 내세우며, 일반 개인 컴퓨터에서 돌리는 속도보다 50~100배 빠르다는 점이 강조됐다.
큰 회사들도 작은 모델을 이용한 인공지능 코딩 지원에 가치가 있다고 보고 있다는 신호다.
핵심 포인트
- 작은 모델을 이용한 코딩 보조가 실제 개발 흐름의 한 축으로 다뤄지고 있다.
- 결과물은 품질이 낮거나 너무 작은 도구가 많다는 비판을 받고 있다.
- 잘 설계된 코드는 만들어진 방식과 관계없이 공개 협업에 도움이 될 수 있다.
- Google은 같은 작은 모델을 중심으로 해커톤을 열고 있다.
- 초당 1,500 토큰 수준의 추론 속도는 에이전트 과 응답 속도 관점에서 눈여겨볼 만하다.