CDRAG, 필요한 문서 묶음부터 골라 법률 질의응답 품질 개선
CDRAG는 이 답변 전에 참고 문서를 찾는 방식을 두 단계로 나눈다. 먼저 된 문서를 의미가 비슷한 묶음으로 미리 나누고, 각 묶음의 내용을 나타내는 핵심어를 로 만든다. 질문이 들어오면 모델이 관련 문서 묶음을 고르고, 묶음마다 몇 개의 문서를 검색할지 예산을 배정한다.
이후 선택된 묶음 안에서만 로 질문과 가까운 문서를 찾는다. 전체 문서에서 단순히 가장 비슷한 몇 개만 찾는 표준 RAG보다, 표현은 달라도 큰 주제가 관련된 문서를 놓칠 가능성을 줄이는 방식이다. 법률 RAG 벤치의 질문 100개를 심사로 평가한 결과, 표준 RAG보다 충실도가 12%, 종합 품질이 8% 높았고 6개 지표 중 5개에서 앞섰다.
코드와 자세한 구현 내용은 GitHub에 공개됐다.
핵심 포인트
- 문서를 의미가 비슷한 묶음으로 미리 나누고 각 묶음의 핵심어를 만든다.
- 질문마다 관련 문서 묶음을 선택하고 검색할 문서 수를 묶음별로 배정한다.
- 선택된 묶음 안에서만 검색을 수행한다.
- 법률 질문 100개 평가에서 충실도 12%, 종합 품질 8% 향상을 보고했다.
- 실제 과 전체 비용 절감 효과는 제시되지 않았다.