Humanized-RAG, 벡터를 압축해 RAG 검색 비용을 줄이는 실험
Humanized-RAG는 지식창고에서 필요한 내용을 더 적은 검색으로 찾기 위한 실험적 RAG 방식이다. 핵심 아이디어는 을 숫자 표현으로 바꾼 임베딩을 다시 묶어서, 더 압축된 “벡터의 벡터” 형태로 다루는 것이다. 이렇게 하면 가 모든 작은 조각을 처음부터 훑기보다, 큰 주제에서 작은 주제로 내려가며 찾을 수 있다.
구조는 목차, 주제, 하위 주제, 마지막 세부 내용으로 이어지는 계층형 나무에 가깝다. 이 나무는 임베딩을 비슷한 것끼리 묶는 으로 만들며, 테스트에는 HDBSCAN이 쓰였다. 목표는 잘 알려진 RAG 방식들과 비교할 수 있을 만큼 효율적인 을 만드는 것이다.
HRAG가 공개되어 있고, 아이디어와 테스트 결과를 정리한 논문 초안도 개선과 출판 도움을 기다리고 있다.
핵심 포인트
- 임베딩을 다시 묶어 더 압축된 검색 구조를 만들려는 방식이다.
- 검색은 목차에서 주제, 하위 주제, 세부 내용으로 내려가는 계층형 흐름을 쓴다.
- 비슷한 을 자동으로 묶기 위해 을 사용했고, 테스트에는 HDBSCAN이 쓰였다.
- 목표는 검색을 더 효율적으로 만들어 RAG 비용과 지연을 줄이는 것이다.
- HRAG 와 논문 초안이 공개되어 개선 의견을 받고 있다.