Gemma4-12B-QAT 변형 모델, MTP로 속도 약 60% 개선
Gemma4-12B-QAT Uncensored Balanced가 공개됐다. 이 모델은 기존 Gemma4-12B-QAT를 기반으로 검열 제한을 줄인 변형이며, MTP 적용으로 속도가 약 60% 빨라졌다고 소개된다. 제작자는 HF 계정 기준 다운로드가 거의 2천만 회에 가까워졌고, Discord 구성원은 거의 5천 명이라고 밝혔다.
GenRM 테스트에서는 465개 요청 중 거절이 0건이었다고 한다. Balanced 방식은 매우 민감한 요청에서 짧은 사전 을 한 뒤 답변을 제공하는 형태이며, 성격을 바꾸는 조정은 없다고 설명된다. 일부 극단적인 예외 요청은 처음에는 빗나갈 수 있지만 다시 물으면 답하는 경우가 있다고 한다.
권장 용도는 창작 글쓰기, 역할극, 감정 표현이 필요한 대화이며, 과 tool use에서는 자체 테스트 기준 이 더 낫다고 평가했다. 반복 출력 문제는 없고, 재실행해도 이 안정적이며, 긴 컨텍스트에서도 흐름이 유지된다고 주장한다.
핵심 포인트
- MTP 적용으로 속도가 약 60% 빨라졌다고 소개된다.
- 기존 Gemma4-12B-QAT를 기반으로 한 검열 완화 Balanced 변형이다.
- GenRM 테스트에서 465개 요청 중 거절이 0건이었다고 한다.
- 창작 글쓰기, 역할극, 감정 표현 대화에 적합하다고 소개된다.
- 과 tool use에서는 이 더 낫다고 평가했다.