AI 추론 시장이 안정형과 개방형 인프라로 갈라지고 있다
을 고르는 경쟁보다, 그 모델을 실제로 실행해 답을 만들어 주는 경쟁이 더 중요해지고 있다. 는 최근 1억 1,300만 달러를 투자받았고, 매주 47조 개의 토큰 요청을 여러 제공업체로 보내고 있다. 개발자는 에 요청을 보내고, 가 어떤 제공업체를 쓸지 고르는 방식이다.
시장은 두 갈래로 나뉘고 있다. , Together, Groq 같은 전문 추론 업체와 대형 클라우드 기업은 안정성, 서비스 보장, 기업 계약을 앞세운다. Akash, io net, Venice, c0mpute 같은 분산 네트워크는 중앙 회사가 정한 , 계정 차단, 요청 제한이 적다는 점을 내세운다.
는 에서 가장 많이 쓰이는 모델 5개 중 4개를 차지하고 있다. 모델이 무료에 가깝고 오픈소스로 쓸 수 있으면, 그 아래에서 누가 싸고 빠르게 실행하느냐가 더 큰 문제가 된다.
핵심 포인트
- 는 1억 1,300만 달러를 투자받았다.
- 는 매주 47조 개의 토큰 요청을 여러 추론 제공업체로 보낸다.
- , Together, Groq 같은 업체는 안정성과 기업 계약을 중심으로 경쟁한다.
- Akash, io net, Venice, c0mpute 같은 분산 네트워크는 중앙 통제와 제한이 적다는 점을 내세운다.
- 는 에서 가장 많이 쓰이는 모델 5개 중 4개를 차지한다.