RAG 성능은 문서 나누기에서 자주 무너진다
를 만들 때 문서를 작은 조각인 청크로 나누는 방식이 성능을 크게 좌우한다. 정해진 길이만 보고 자르면 문장이 중간에 끊기거나, 함께 있어야 뜻이 통하는 문장들이 떨어질 수 있다.
그러면 모델은 질문과 관련은 있지만 답의 핵심 문장이 빠진 조각만 보고 빈칸을 그럴듯하게 채우게 된다. 에서는 앞뒤가 조금 겹치게 문서를 나누는 방식이 흔히 쓰이며, 실패한 질문에서는 실제로 어떤 청크가 검색됐는지 직접 확인하는 일이 도움이 된다.
특정 모델 번호나 제품 코드처럼 정확히 맞아야 하는 식별자는 만으로는 비슷한 결과를 가져와 틀릴 수 있다. 이런 경우 를 함께 쓰는 이 더 안전하다.
핵심 포인트
- 문서를 고정 길이로만 자르면 문장과 의미가 끊길 수 있다.
- 검색된 청크가 주제는 맞아도 실제 답이 들어 있는 문장이 빠질 수 있다.
- 실패한 질문에서는 검색 결과 원문을 직접 확인해야 한다.
- 정확한 모델 번호나 제품 코드는 만으로 틀릴 수 있다.
- 를 함께 쓰는 이 정확한 식별자 검색에 도움이 된다.