GLM 5.2, 최대 사고 단계보다 적은 토큰으로도 비슷한 성능 가능

GLM 5.2는 기본 설정에서 가장 높은 사고 단계인 최대 단계로 작동해 토큰 사용량과 대기 시간이 크게 늘어날 수 있다. GLM 5.1에서 5.2로 오면서 추론 토큰 수가 약 1만6,700개에서 3만6,700개로 두 배 이상 늘었다는 관찰이 나왔다. 오래된 제온 장비로 로컬 실행을 시도한 경우, 수학 문제 답변을 기다리다 12시간 뒤 모델을 꺼야 할 만큼 느렸다.

Z.ai 기술 보고서의 그래프는 코딩 작업 기준으로 높은 단계가 최대 단계의 절반보다 적은 토큰을 쓰면서도 최대 성능의 약 98%에 가까운 지능 수준을 낼 수 있음을 시사한다. 그래서 로컬 사용자와 응용 프로그램 인터페이스 사용자는 기본 최대 단계 대신 높은 단계를 시험해볼 만하다. 다만 4비트 양자화와 높은 단계를 함께 쓴 테스트에서는 답이 절반 정도만 맞았고, Z.ai 채팅에서 최대 단계와 높은 단계를 비교한 결과는 서로 비슷했지만 일부 경우 판단 차이가 있었다.

관련 실험들은 GLM 5.2가 512GB급 맥 스튜디오, 듀얼 RTX 5090, 4개 RTX 3090 같은 큰 장비에서는 긴 문맥과 로컬 실행 가능성을 보여주지만, 일반적인 개인 장비에서는 속도와 메모리 부담이 여전히 크다는 점도 함께 보여준다.