문서 조각 대신 ‘작은 학습 단위’로 지식을 꺼내 쓰는 RAG 아이디어

는 지식을 단순한 으로 저장하지 않고, 개념별로 작은 학습 가능한 단위로 저장하자는 아이디어입니다. 각 단위에는 사실 정보, 출처와 신뢰도 같은 메타데이터, 다른 개념과의 연결 관계, 그리고 그 개념이 문맥 안에서 어떻게 쓰이는지 담는 작은 학습 요소가 들어갑니다. 기존 RAG는 질문이 들어오면 비슷한 을 찾아 에 넣지만, 방식은 질문과 관련된 지식 단위만 골라 활성화한 뒤 답을 만들게 합니다.

이 구조는 처럼 지식 사이의 관계를 쓰면서도, 개념별로 작게 조정된 LoRA 같은 학습 요소를 붙인다는 점이 다릅니다. 아직 논문이나 검증된 제품이 아니라 토론용 초기 아이디어이며, 실제로 더 정확한 답이나 낮은 비용을 만들 수 있는지는 실험이 필요합니다.

핵심 포인트

  • 기존 RAG는 보통 문서를 작게 나눈 뒤, 질문과 비슷한 조각을 찾아 모델에 넣습니다.
  • 는 개념마다 사실, 메타데이터, 관계, 작은 학습 요소를 함께 저장하자는 제안입니다.
  • 질문이 들어오면 관련된 지식 단위만 활성화해 답변에 쓰는 흐름을 목표로 합니다.
  • 와 비슷하게 지식 사이의 연결을 쓰지만, 개념별 학습 요소를 붙인다는 점이 추가됩니다.
  • 아직 검증된 방법은 아니며, 토큰 절감과 정확도 개선은 실험이 필요합니다.
원문 보기