RAG 기반 AI 제품을 매번 새로 만드는 부담
문서 기반 AI 프로젝트는 보통 같은 준비 작업으로 시작된다. 문서를 가져오고, 문서를 작은 조각으로 나누고, 임베딩 모델을 고르고, 를 띄운 뒤, 이를 연결하는 와 로그인·권한 처리, 을 붙여야 한다.
여러 팀이나 여러 고객이 함께 쓰는 제품에서는 고객별 문서가 섞이지 않도록 분리 구조도 필요하다. 문제는 이렇게 만든 구조가 특정 팀, 특정 문서 묶음, 특정 사용 사례에 맞춰져 있어 다음 프로젝트에서 그대로 재사용하기 어렵다는 점이다.
많은 팀은 , , 자체 연결 코드를 조합해 매번 새 파이프라인을 만들거나, 완전 형 소프트웨어를 쓰면서 공급업체 종속과 데이터 외부 반출을 감수한다. 특히 법률 도구, 고객지원 도구처럼 고객마다 각자의 문서가 있는 AI 제품에서는 문서, 벡터, 사용량 데이터가 완전히 분리되어야 한다.
핵심 포인트
- 문서 기반 AI 프로젝트마다 문서 수집, 쪼개기, 임베딩, 설정이 반복된다.
- 특정 고객이나 팀에 맞춰 만든 구조는 다음 프로젝트에서 재사용하기 어렵다.
- 여러 고객이 쓰는 AI 제품은 고객별 문서와 사용량 데이터를 완전히 분리해야 한다.
- 직접 구축하면 반복 작업이 많고, 를 쓰면 공급업체 종속과 데이터 외부 반출 문제가 생긴다.