RAG만으로는 기업 지식의 연결 관계를 놓칠 수 있다
기업용 RAG 시스템은 비슷한 문장을 찾는 데는 강하지만, 여러 자료 사이의 관계를 따라가야 하는 질문에는 약할 수 있다. 예를 들어 “지난 분기에 고객이 API 이전 문제에 대해 무엇을 결정했나” 같은 질문은 시간, 결정한 사람, 관련 자료의 연결을 함께 봐야 한다.
단순한 검색은 관련 단어가 들어간 조각을 가져올 뿐이라, 슬랙 대화, 셰어포인트 문서 초안, 고객관리 기록 사이의 연결을 놓칠 수 있다. 그래서 일부 개발자는 로 가지만, 처음부터 를 만들면 데이터 작업 비용이 커지고, 엔티티 추출 파이프라인, 고정된 구조 설계, 스키마 변화 관리가 필요해진다.
대안으로 제시된 는 저장소 위에 얹히는 AI 문맥 계층으로, 직접 를 하나하나 설계하지 않고도 관계형 질문에 필요한 연결 정보를 다루려는 접근이다. 예시로 60x.ai라는 전용 플랫폼이 언급된다.
핵심 포인트
- 기본 RAG는 비슷한 문장 검색에는 강하지만 관계와 시간 흐름이 필요한 질문에는 약할 수 있다.
- 검색은 슬랙, 셰어포인트, 고객관리 기록 사이의 연결을 놓칠 수 있다.
- 는 관계를 다루는 대안이지만 구축 비용과 관리 부담이 커질 수 있다.
- 는 여러 위에 AI용 문맥 계층을 얹는 방식으로 제시된다.
- 에서는 관련 문서를 많이 넣는 것보다 필요한 연결만 잘 고르는 것이 토큰과 비용에 중요하다.