오프라인 RAG 구축 시 벡터 스토어 선택 고민 — 필터링이 핵심 난제
완전히 오프라인(외부 네트워크 연결 없음)으로 동작해야 하는 시스템을 만들 때 선택이 어렵다는 논의다. 가장 큰 문제는 검색 결과를 문서 출처, 날짜, 권한 레벨 등으로 걸러내는 기능인데, 기본 기능만 있는 로는 부족하다.
Qdrant는 이 필터링을 잘 처리하지만 완전 폐쇄망(에어갭) 환경에서 쓰기엔 아쉬운 점이 있다. Qdrant의 하이브리드 클라우드 버전은 외부로 나가는 연결을 계속 유지하고, 프라이빗 클라우드 버전은 쿠버네티스 설치와 영업 상담 절차가 필요하며, 오픈소스 버전은 프로덕션에 필요한 도구들이 빠져 있다는 것이 문제로 지적된다.
최근에는 대안으로 와 Qdrant Edge가 거론되고 있다. 작성자는 폐쇄망 환경에서 RAG를 운영하는 사람들에게 어떤 를 선택했는지, 무거운 인프라 없이 검색 시점의 을 어떻게 처리하는지, 오프라인 전환으로 인해 필터링이나 검색 정확도(recall)를 포기해야 했는지를 묻고 있다.
핵심 포인트
- 완전 오프라인 RAG 환경에서 의 (출처·날짜·권한) 기능이 핵심 난제
- Qdrant는 필터링은 우수하지만 에어갭(완전 폐쇄망) 대응이 아쉬움
- Qdrant 하이브리드 클라우드=외부 연결 필요, 프라이빗 클라우드=쿠버네티스+영업 절차 필요, 오픈소스판=프로덕션 도구 부족
- 대안으로 와 Qdrant Edge가 거론됨
- 오프라인 전환 시 필터링이나 정확도를 희생했는지에 대한 커뮤니티 의견을 구하는 질문 게시물