음성 에이전트용 오픈소스 프로파일러, STT·LLM·TTS 비용을 한눈에
이나 Pipecat으로 를 만들면 매 대화 턴마다 음성인식(STT), LLM, 음성합성(TTS) 세 가지 서비스를 거치는데, 각각 다른 업체에 비용을 내면서도 어디서 예산이 새는지 파악하기 어렵다는 문제가 있었다. 이를 해결하기 위해 Voice라는 오픈소스 프로파일러가 만들어졌다. 코드에 한 줄만 추가하면(voice.attach(session)) 모든 STT·LLM·TTS 호출의 비용과 소요 시간이 자동으로 기록된다.
제공업체·모델별 비용, 응답 속도의 (전체 요청 중 중간값과 상위 5% 지점 속도), 통화별 재생(리플레이) 기능, 그리고 하루 예산 한도를 정해두고 초과 시 다른 모델로 하는 guard() 기능까지 포함한다. 셀프호스팅 방식이라 자체 API 키를 사용하며, 수집되는 것은 사용 통계()뿐 음성 데이터 자체는 절대 거치지 않는다. 로 공개되어 있고 어떤 업체의 서비스와도 함께 쓸 수 있다.
저장소는 mahimailabs/voice이며, 제작자는 어떤 항목을 더 추적하면 좋을지, 그리고 여러 음성 서비스에 걸친 비용 추적 문제로 고생하는 사람이 또 있는지 피드백을 구하고 있다.
핵심 포인트
- ·Pipecat 기반 에 한 줄(voice.attach(session))만 추가하면 적용
- 제공업체·모델별 비용과 지연시간 를 자동 기록
- 통화별 재생(리플레이) 기능과 하루 예산 초과 시 (guard()) 지원
- 셀프호스팅, 자체 API 키 사용, 음성 데이터는 수집하지 않고 통계만 수집
- 오픈소스, 저장소는 mahimailabs/voice