질문 답변 검색을 실행 때 생성 없이 처리하는 RAGless

RAGless는 자주 묻는 질문을 찾고 답하는 시스템이다. 문서를 넣을 때만 을 쓰고, 실제 질문에 답할 때는 을 쓰지 않는다. PDF, 텍스트, 마크다운 문서를 넣으면 Gemini가 답변과 여러 형태의 질문 문장을 미리 만든다.

각 질문 문장은 임베딩으로 바뀌어 로컬 에 저장된다. 사용자가 질문하면 그 질문도 임베딩으로 바뀌고, 저장된 질문들 중 가까운 것을 찾은 뒤 같은 답변에 연결된 점수를 합쳐 가장 알맞은 미리 쓴 답변을 돌려준다. 실행 중에는 새 답변을 생성하지 않기 때문에 실행 시 프롬프트 작업이 필요 없고, 설계상 없는 내용을 지어낼 가능성을 줄인다.

문서 조각 하나를 바로 찾는 방식이 아니라, 같은 답변에 붙은 여러 질문 변형을 함께 평가해서 검색을 더 튼튼하게 만들려는 접근이다. 를 쓰면 완전히 오프라인으로도 동작하며, 설정 파일에서 _MODEL만 바꾸면 된다.

핵심 포인트

  • 문서를 넣을 때만 Gemini로 질문과 답변 묶음을 미리 만든다.
  • 질문 변형은 임베딩으로 바뀌어 로컬 에 저장된다.
  • 실제 질문 시간에는 답변을 새로 생성하지 않고 저장된 답변을 찾는다.
  • 같은 답변에 연결된 여러 질문 변형의 점수를 합쳐 더 안정적으로 찾는다.
  • 를 쓰면 오프라인 실행이 가능하고, 설정에서 _MODEL을 바꿀 수 있다.

이 사건을 다룬 원문 (2)

원문 보기