DeepSeek의 추론 가속용 DeepSpec 코드 모음 공개

DeepSpec은 에 쓰는 초안 모델을 훈련하고 평가하기 위한 전체 코드 모음이다. 은 큰 모델이 답을 만들 때 작은 모델이 먼저 다음 내용을 빠르게 제안하게 해서 생성 속도를 높이는 방식이다. 이 모음에는 데이터 준비 도구, 초안 모델 구현, 훈련 코드, 평가 스크립트가 들어 있다.

공개된 체크포인트는 논문 표 1의 결과에 사용된 모델들이다. 각 체크포인트는 해당 목표 모델이 에서 만든 open-perfectblend 데이터로 훈련되었고, 저장소의 설정 파일에서 나온 훈련 결과물이다. 대상 모델은 , 8B, 14B와 계열이며, 알고리즘은 , , DSpark가 포함된다.

결과를 논문이나 새 비교에 인용하려면 이 저장소의 훈련 설정과 맞춰야 하며, 그렇지 않으면 비교가 의미 없을 수 있다.

핵심 포인트

  • DeepSpec은 용 초안 모델을 훈련하고 평가하는 코드 모음이다.
  • 데이터 준비, 모델 구현, 훈련 코드, 평가 스크립트가 함께 제공된다.
  • Qwen3와 계열 목표 모델에 맞춘 체크포인트가 공개됐다.
  • , , DSpark 알고리즘별 체크포인트가 포함된다.
  • 결과를 비교하려면 저장소의 훈련 설정과 맞춰야 한다.
원문 보기