RAG 검색을 더 똑똑하게 만들 때, 저장소부터 바꿔야 할까
이미 돌아가는 RAG 시스템에 을 붙이려는 상황이다. 현재 구성은 Chroma 와 MMR 검색, 임베딩, , , Ragas 평가 지표다. 평가에는 문맥 정확도, 문맥 회수율, 답변 충실도, 답변 관련성이 이미 들어가 있다.
선택지는 세 가지다. EnsembleRetriever를 쓰면 Chroma를 그대로 두고 몇 줄만 추가해 BM25와 dense 검색 결과를 RRF 융합으로 섞을 수 있다. Weaviate나 로 옮기면 을 한 번의 호출로 처리하고 alpha 값으로 검색 비중을 조절할 수 있지만, Chroma에서 벗어나 데이터를 다시 넣어야 한다.
QueryFusionRetriever도 검색 결과를 깔끔하게 섞을 수 있지만, 중심 구조를 바꿔야 한다. 핵심 판단은 EnsembleRetriever만으로 충분한지, 실제 품질이나 지연 시간 때문에 native hybrid 저장소로 옮길 이유가 있는지, 또는 보다 재순위 모델을 붙이는 편이 더 큰 개선인지다.
핵심 포인트
- 현재 RAG 구성은 Chroma, , 임베딩, , Ragas 평가로 되어 있다.
- 가장 작은 변경은 EnsembleRetriever로 BM25와 dense 검색을 섞는 방식이다.
- Weaviate나 는 native hybrid 검색을 제공하지만 데이터 이전과 재수집이 필요하다.
- QueryFusionRetriever는 대안이지만 을 떠나는 구조 변경이 생긴다.
- 실제 판단 기준은 검색 품질, 지연 시간, 재순위 모델의 개선 폭, Ragas 전후 지표다.