Gemma 4가 브라우저 GPU에서 초당 255토큰을 처리했다는 주장
용 이 초당 255개 토큰 처리 속도에 도달했다는 사례가 나왔다. 밀집 모델에서 초당 100개가 넘는 토큰 속도가 나오면, 모든 작업을 Claude나 Codex 같은 유료 모델에 맡기지 않아도 된다.
가벼운 분석, 초안 작성, 반복 작업은 로컬 사설 모델이 맡고, 더 어려운 판단이 필요한 작업에만 을 쓰는 방식이 가능해진다. 핵심은 빠른 로컬 모델이 개인정보를 밖으로 보내지 않으면서도 과 을 줄이는 보조 작업자가 될 수 있다는 점이다.
핵심 포인트
- 용 이 초당 255개 토큰 처리 속도를 냈다는 수치가 제시됐다.
- 밀집 모델에서 초당 100개 이상이면 로컬 모델을 더 적극적으로 쓸 수 있다.
- 로컬 사설 모델은 반복적이고 가벼운 작업을 맡아 유료 모델 사용을 줄일 수 있다.
- Claude나 Codex 같은 은 더 어려운 판단 작업에 집중시키는 구성이 가능하다.