노트북에서 돌리는 무료 RAG 도구, 비용 절감에 도움 될 수 있음
Cortex RAG는 기본적인 벡터 검색만 하는 RAG 도구보다 더 많은 방식을 묶은 오픈소스 도구다. 문서를 작은 조각으로 나눌 때 원래 문서의 배경을 함께 붙이고, 질문을 여러 방식으로 바꿔 더 넓게 찾은 뒤 결과를 합친다. 문서 안의 사람, 회사, 제품 같은 관계도 함께 보고, 이 찾은 문서 조각을 평가해 답변에 쓰기 어려운 내용을 걸러낸다.
관련성이 높은 순서로 결과를 다시 정렬하고, 질문이 짧거나 애매할 때는 가상의 답을 만들어 검색 범위를 넓힌다. 같은 질문은 로 빠르게 처리해 반복 검색 시간을 줄인다. 여러 차례 이어지는 대화는 채팅 메모리로 이어갈 수 있다.
클라우드나 API 키 없이 노트북에서 실행되며, 내부 검색, 규정 준수 자동화, 지식 관리 시스템에 맞춰 시험해볼 수 있다.
핵심 포인트
- Cortex RAG는 무료 오픈소스 RAG 도구로 공개됐다.
- 클라우드와 API 키 없이 노트북에서 실행할 수 있다.
- 문서 조각에 배경을 붙이고, 여러 검색 결과를 합치며, 관계 기반 검색도 사용한다.
- 이 문서 조각을 평가하고, 관련성이 높은 순서로 결과를 다시 정렬한다.
- 는 반복 질문을 빠르게 처리해 검색 시간과 반복 비용을 줄이는 데 도움이 될 수 있다.