인공지능 모델을 빌릴지, 직접 운영할지 따져야 하는 이유
2026년 7월 1일 Palantir 최고경영자 Alex Karp는 CNBC에서 대형 인공지능 회사들의 토큰 단위 과금이 기업에 큰 비용을 떠넘긴다고 비판했다. 핵심은 기업이 최신 을 빌려 쓰면 를 갖지 못하고, 답이 나온 과정을 들여다보기 어렵고, 입력한 내부 데이터가 공급사의 제품 개선에 쓰일 수 있다는 점이다. 반대로 에서 모델을 운영하면 , 데이터, 을 회사 안에 둘 수 있다.
낮은 위험의 업무에서는 모델을 빌려 써도 괜찮지만, 금융·의료·공공처럼 규제를 받는 업무에서는 통제권 차이가 매우 크다. 토큰 사용료가 실제 가치로 이어지는지, 그리고 기업의 데이터와 경쟁력이 외부 인공지능 회사로 넘어가는지 점검해야 한다는 문제의식이다.
핵심 포인트
- 토큰 단위 과금은 에이전트 사용량이 많을수록 비용 부담을 키울 수 있다.
- 빌려 쓰는 최신 모델은 와 답변 과정을 회사가 직접 통제하기 어렵다.
- 운영은 데이터와 을 내부에 남길 수 있다.
- 낮은 위험의 작업은 임도 충분할 수 있다.
- 규제 업무에서는 비용뿐 아니라 데이터 통제와 이 중요하다.