Gemma 4 31B 오픈모델 중심으로 음성·아바타·파인튜닝 실험 활발

오픈소스 모델 Gemma 4 31B를 둘러싸고 커뮤니티에서 다양한 실험이 이어지고 있다. 한 개발자는 Nvidia의 음성인식 모델 Parakeet, Cerebras가 서빙하는 Gemma 4 31B, 자체 제작한 Qwen3 TTS(음성합성)를 연결해 실시간 음성 대화 데모를 공개했다.

이 조합은 OpenAI의 실시간 API를 대체할 수 있는 완전 오픈소스 스택으로, 로컬에서도 구동 가능하며 맥북 프로 M3(36GB) 환경에서 더 작은 버전인 Gemma 4 E4B로 비슷한 응답 속도를 낸다. 같은 스택을 활용한 다른 프로젝트는 3D 아바타가 표정과 손짓을 스스로 결정하며 얼굴을 보고 대화하는 데모를 선보였는데, 립싱크에는 별도 오픈소스 도구를 사용했고 응답이 빠른 이유는 Cerebras의 고속 서빙 덕분이다.

한편 맥북 프로에서 CUDA 없이도 애플 실리콘용 MLX 라이브러리로 Gemma 4 12B를 구동하는 커널 프로젝트가 오픈소스로 공개됐고, 개발자는 26B로 모델 크기를 줄여 재구성하는 작업도 진행 중이다(로컬 어텐션 레이어 구조를 조정하는 방식). 이 외에도 카피라이팅·크리에이티브 라이팅에 특화되도록 파인튜닝한 Gemma 4 31B 버전이 벤치마크에서 기본 모델 대비 크게 향상된 점수를 받았고, 롤플레이용 파인튜닝 버전을 유료 API 서비스로 제공하는 곳도 등장했다.