사내 여러 팀을 위한 AI 게이트웨이, 어떤 걸 골랐나 — 실사용 비교
내부용(POC, 데모, 실험 전용, 프로덕션 아님)으로 OpenAI·Anthropic· 등 여러 벤더 모델을 여러 팀이 함께 쓸 수 있는 를 찾는 사례다. 핵심 요구사항은 세 가지다. 원본 벤더 API 키를 그대로 나눠주지 않도록 가상/합성 키로 접근을 통제하는 것, 누가 얼마나 쓰는지 볼 수 있는 사용량 가시성, 그리고 전담 엔지니어 없이도 굴러가는 운영 편의성이다.
후보들을 비교한 결과는 다음과 같다. 은 커뮤니티가 활발하고 설정이 빠르며 초기 진입 장벽이 낮아 가장 자연스러운 출발점으로 꼽힌다. True는 거버넌스(정책/통제) 관련 논의에서 자주 언급되며, 팀별 비용 추적 기능이 특히 괜찮다는 평가다.
Portkey는 기본 완성도는 더 높지만, () 지원이 관리형 버전만큼 탄탄한지 확신이 없다는 점이 걸림돌이다. Kong은 강력하지만 키 관리와 대시보드 정도가 필요한 내부 프록시 용도로는 과한 선택으로 평가된다. 는 별도로 언급되며 뒷부분 내용은 잘려 있다.
핵심 포인트
- 내부 실험/POC 전용 스코프, 프로덕션·고객향 아님
- 핵심 요구사항: 가상 키로 접근 통제, 팀별 사용량 가시성, 낮은 운영 부담
- : 커뮤니티 활발, 빠른 초기 설정
- True: 거버넌스 강점, 팀별 비용 추적 우수
- Portkey는 완성도 높지만 지원이 상대적으로 불확실