지식 그래프는 RAG를 대체하는 게 아니라 다른 문제를 푼다
벡터 검색 기반 와 는 경쟁 관계가 아니라 서로 다른 문제를 해결한다. 벡터 검색은 '비슷한 문장'을 찾아주지만, 는 '서로 연결된 정보'를 찾아준다. 예를 들어 사모펀드에서 '물류 분야를 잘 아는 사람이 누구인가'라고 물으면, 일반 RAG는 '물류 '라는 단어가 들어간 문서들(통화 녹취록, 투자 제안서, CRM 메모 등)을 유사도 순으로 찾아줄 뿐이다.
그런데 실제 답은 한 문서에 있지 않고 여러 시스템에 흩어져 있다. 2021년 통화 메모에 창업자 이름이 나오고, CRM 기록이 그 창업자를 특정 회사와 연결하고, 이메일에 파트너가 컨퍼런스에서 그 창업자를 만났다는 내용이 있고, 딜 메모에는 예전에 비슷한 건을 검토했다가 넘겼다는 기록이 있는 식이다. 이 네 문서는 서로 다른 시스템에 있어서, 일반 RAG는 이런 연결 고리를 따라갈 수 없다.
마이크로소프트의 논문도 이런 한계를 지적했다.
핵심 포인트
- 벡터 검색(RAG)은 유사한 문서를 찾고, 는 연결된 정보를 찾는다는 점에서 역할이 다르다
- 답이 여러 문서·시스템에 흩어져 있을 때 일반 RAG는 그 연결 고리를 따라가지 못한다
- 마이크로소프트 논문도 일반 검색이 이런 연결형 질문에 약하다는 점을 지적했다
- 는 RAG의 대체재가 아니라, RAG가 원래 다루도록 설계되지 않은 문제를 보완하는 도구다