audio.cpp 0.3, RTX 5090에서 10시간 음성을 3분 만에 생성
.cpp 0.3은 Supertonic 3, MOSS-TTS-Local, MOSS-TTS-Nano, IndexTTS2, Irodori-TTS 등 모델 5개를 추가했다. Supertonic 3은 과 CUDA를 사용할 때 실제 음성 재생 시간보다 200배 넘게 빠르게 만들었고, 만 사용할 때도 6배가 넘는 속도를 냈다. 실시간 전송 방식에서는 첫 음성이 나오기까지 약 47밀리초가 걸렸다.
《셜록 홈즈의 모험》을 입력한 시험에서는 약 10시간 분량의 음성을 한 대로 약 3분 만에 생성했다. 공식 구현은 ONNX를 쓰지만, .cpp는 가중치에서 음성 생성 과정을 다시 구성했다. 공식 방식이 일부 계산을 로 돌리는 것과 달리 를 더 온전히 사용해, CUDA 환경에서는 파이썬 구현보다 훨씬 빨랐고 에서는 비슷하거나 조금 빨랐다.
다른 추가 모델도 시험 조건에 따라 비슷한 수준부터 2배 이상까지 속도가 높아졌으며, IndexTTS2의 긴 문장 시험에서는 6,000자 본문과 2,400자 감정 지시문을 처리할 때 C++ 구현이 파이썬보다 5.65배 빨랐다. 저장 공간과 실행 효율을 높이는 데 쓰이는 GGUF 형식 지원도 추가됐다.
핵심 포인트
- .cpp 0.3에 모델 5개가 추가됐다.
- Supertonic 3은 에서 약 10시간 분량의 음성을 약 3분 만에 만들었다.
- 실시간 전송에서는 첫 까지 약 47밀리초가 걸렸다.
- IndexTTS2 긴 문장 시험에서 C++가 파이썬보다 5.65배 빨랐다.
- GGUF 지원이 추가돼 모델 저장과 실행 선택지가 넓어졌다.