LLM 비용 비교에서 캐시 가격 차이가 크게 드러남
7개 안팎의 인공지능 가격을 한 표로 비교하면, 단순한 토큰 가격만으로 실제 비용을 판단하기 어렵다. 비교 대상에는 , , Together AI, , Groq 등이 포함됐고, 입력 토큰 가격, 출력 토큰 가격, 문맥 창 크기, 캐시된 입력 가격, 지원 모델, 업체별 가격 차이가 정리됐다. 이 자료는 속도나 처리량을 직접 시험한 성능 비교가 아니라, 공개 가격표와 공개 에 나온 가격을 모은 것이다.
가장 큰 차이는 캐시 가격에서 나타났다. 예를 들어 를 여러 업체에서 쓸 때, 캐시에 맞은 입력은 캐시에 맞지 않은 입력보다 수십 배 싸질 수 있다. 큰 를 쓰는 에이전트, 같은 자료를 반복해서 넣는 RAG 구성, 여러 차례 이어지는 대화, 반복되는 프롬프트 양식에서는 표시된 기본 토큰 가격보다 캐시 정책이 더 중요할 수 있다.
같은 모델도 어느 업체를 거치느냐에 따라 비용이 몇 배씩 달라질 수 있다.
핵심 포인트
- , , Together AI, , Groq 등 여러 제공업체의 공개 가격을 한 표로 비교했다.
- 비교 항목에는 입력·출력 토큰 가격, 문맥 창, 캐시된 입력 가격, 지원 모델, 업체별 가격 차이가 들어간다.
- 직접 속도 시험이나 처리량 시험은 아니며, 공개 가격 자료를 모은 것이다.
- 같은 모델은 캐시가 맞을 때 입력 비용이 캐시가 없을 때보다 수십 배 낮아질 수 있다.
- 에이전트, RAG 구성, 반복 프롬프트는 기본 토큰 가격보다 캐시 정책의 영향을 크게 받을 수 있다.