지식 그래프가 RAG 비용 절감에 항상 답은 아닌 이유
는 에서 서로 다른 표현으로 된 정보를 연결해 주는 방법으로 기대를 받는다. 예를 들어 한 규칙은 절도를 금지하고, 다른 규칙은 꼭 필요한 상황의 음식 절도는 허용한다고 할 수 있다.
단어가 다르면 어휘 검색은 두 규칙을 함께 찾기 어렵다. 도 관련성을 어느 정도 찾을 수 있지만, 필요한 문서 조각이 상위 K 범위 밖으로 밀리면 답에 쓰이지 못한다.
는 이런 관계를 더 잘 연결할 것처럼 보이지만, 실제로는 다른 RAG 방식보다 뚜렷하게 낫지 않은 경우가 있다. 가능한 원인은 인덱싱 단계에서 LLM이 복잡한 관계를 충분히 뽑아내지 못하거나, 이 저장할 때와 질문할 때의 표현 차이를 제대로 잇지 못하는 데 있다.
핵심 포인트
- 어휘 검색은 같은 뜻이라도 단어가 다르면 중요한 연결을 놓칠 수 있다.
- 은 관련 문서를 찾을 수 있지만, 필요한 조각이 상위 K 범위 밖이면 답에 들어가지 않는다.
- 는 관계를 연결하는 데 유리해 보이지만, 실제 성능이 항상 더 좋지는 않다.
- 인덱싱 단계의 관계 추출 품질과 의 연결 능력이 핵심 병목일 수 있다.
- 에 적용하기 전에는 토큰 절감과 정확도 개선을 작은 테스트로 확인해야 한다.