RAG 성능은 모델 교체보다 단순한 설계 개선이 더 크게 좌우했다
을 개발한 경험에서는 을 바꾸는 것보다 몇 가지 단순한 개선이 더 큰 효과를 냈다. 긴 문서를 검색하기 좋은 크기로 나누는 청킹을 개선하고, 검색 결과의 순서를 다시 매기는 를 추가한 것이 대표적이다.
실제 사용자가 묻는 질문으로 평가 자료를 만든 것도 성능 개선에 크게 기여했다. 다만 구체적인 정확도 수치나 비용 절감률은 제시되지 않았다.
핵심 포인트
- 모델 교체보다 검색 과정의 단순한 개선이 더 큰 효과를 냈다.
- 문서를 적절한 크기로 나누는 청킹 개선이 도움이 됐다.
- 를 추가해 더 알맞은 검색 결과를 앞에 배치했다.
- 실제 사용자 질문으로 평가 자료를 만들어 성능을 확인했다.
- 구체적인 정확도나 비용 절감 수치는 공개되지 않았다.