CPU만으로 음성 AI를 돌릴 때 쓸 만한 TTS 속도 비교

세 가지 TTS 모델을 GPU 없이 CPU만으로 비교했다. 테스트 환경은 Xeon 4코어, 메모리 15.6GB였고, 12자부터 1712자까지 여섯 가지 길이의 문장을 넣었다. 각 조건은 예열 뒤 5번씩 시간을 재서 총 150번 실행했고, 모든 음성 결과는 로 점수를 매겼다.

Inflect-Nano-v1은 RTF 0.1376, MOS 3.48로 가장 빨랐지만 실제로는 기계음 느낌이 있고 말투가 밋밋해 점수가 실제 체감 품질보다 높게 나온 것으로 보인다. Supertonic-3 2단계 설정은 RTF 0.1781, MOS 1.53으로 빠르지만 품질 점수가 낮았다. Supertonic-3 5단계 설정은 RTF 0.3164, MOS 4.37로 속도와 품질의 균형이 더 좋았다.

-82M은 ONNX에서 RTF 0.5711, MOS 4.44, 에서 RTF 0.7865, MOS 4.45로 품질은 높지만 더 느렸다. Inflect-Nano-v1은 약 15초 출력 제한이 있어 긴 문장을 조용히 잘라내므로, 긴 글 처리 속도는 실제보다 좋게 보일 수 있다.

핵심 포인트

  • Xeon 4코어 CPU와 메모리 15.6GB만으로 세 가지 TTS 모델을 비교했다.
  • Inflect-Nano-v1은 RTF 0.1376으로 가장 빨랐지만 약 15초 뒤 출력을 잘라낼 수 있다.
  • Supertonic-3 5단계 설정은 MOS 4.37로 품질이 높고 -82M보다 빨랐다.
  • -82M은 MOS 4.44~4.45로 가장 자연스럽게 평가됐지만 속도는 더 느렸다.
  • 는 Inflect-Nano-v1 같은 작은 보코더의 실제 자연스러움을 과대평가할 수 있다.
원문 보기