샤오미, MiMo-V2.5-DFlash 모델 가중치 공개
샤오미가 에 MiMo-V2.5-의 공식 를 올렸다. 이 모델은 3,000억 개가 넘는 매개변수를 가진 MiMo-V2.5의 생성 속도를 높이는 데 쓰이는 것으로 보인다. 기존 모델은 24GB 2장과 96GB 또는 128GB 로 일부 작업을 분산했을 때 초당 약 8~10개 토큰을 생성한다는 실사용 경험이 있다.
를 적용하면 속도가 약 2배가 될 수 있다는 예상이 나왔지만, 아직 실제 측정 결과는 없다. 샤오미는 여러 토큰을 미리 예측해 생성을 빠르게 하는 별도의 MTP 모델도 함께 공개했다. 기존 는 MTP 계층을 제대로 구분하지 못해 이를 활용하지 못했지만, 분리된 MTP 모델이나 는 작동할 가능성이 제기됐다.
실제 사용을 위해서는 공개된 가중치를 GGUF 형식으로 변환하고 호환성과 속도를 확인해야 한다.
핵심 포인트
- MiMo-V2.5-의 공식 가중치가 에 공개됐다.
- 기존 3,000억 개 이상 매개변수 모델은 24GB 2장과 추가 메모리에서 초당 약 8~10개 토큰을 생성했다는 경험이 있다.
- 가 생성 속도를 약 2배로 높일 수 있다는 예상은 아직 실측으로 확인되지 않았다.
- 별도의 MTP 모델도 공개돼 기존 의 계층 인식 문제를 피할 가능성이 있다.
- 직접 실행하려면 GGUF 변환과 호환성·속도·품질 검증이 필요하다.