실서비스용 RAG에 무엇을 더 넣어야 할까
RAG 프로젝트에 이미 여러 고급 검색 기능이 들어가 있다. 키워드로 찾는 와 의미가 비슷한 내용을 찾는 를 함께 쓰고, 으로 두 검색 결과를 섞는다.
Cohere 으로 검색 결과의 순서를 다시 매기고, HyDE query expansion으로 사용자의 질문을 더 잘 찾히는 형태로 넓힌다. 저장된 을 계속 유지하고, 새 문서만 추가로 반영하며, 답변에 출처를 붙인다.
또 근거 없는 답을 하지 않는다는 정책도 포함되어 있다. 남은 핵심은 이런 기능만으로 실서비스 수준이라고 볼 수 있는지, 일반적인 RAG 과제와 차별화하려면 무엇을 더 갖춰야 하는지다.
핵심 포인트
- 이미 와 를 함께 쓰는 혼합 검색 구조가 들어가 있다.
- 으로 여러 검색 결과를 합치고, Cohere 으로 결과 순서를 다시 조정한다.
- HyDE query expansion으로 질문을 확장해 더 잘 맞는 문서를 찾으려 한다.
- 저장된 색인, 새 문서만 반영하는 방식, , 근거 없는 답변 방지 정책이 포함되어 있다.
- 목표는 단순한 RAG 데모를 넘어 실서비스 수준으로 만드는 것이다.