GPU 없이도 복잡한 검색형 답변을 싸게 만드는 MOTHRAG
는 별도 훈련 없이 여러 단계의 근거를 찾아 답하는 검색형 질의응답 방식이다. 읽기 모델, 문서 임베더, 검색 판단기 같은 부품을 모두 사용량만큼 돈을 내는 일반 뒤에서 실행한다. 그래서 모델을 직접 미세조정하거나 를 갖추거나 특정 회사의 독점 라이선스에 묶일 필요가 없다.
-3.3-70B를 읽기 모델로 쓰고 같은 설정을 적용했을 때 HotpotQA F1 78.1, 2WikiMultiHopQA F1 76.3, F1 50.5를 냈으며 평균은 68.3이다. 이는 GPU가 필요한 최고 수준 결과와 0.7점 차이라고 제시됐다. 은 질문 1개당 0.032달러이고, 저가 설정은 질문 1개당 0.018달러로 HotpotQA와 2Wiki에서는 통계적으로 비슷한 성능을 냈다.
검색 과정은 관련성이 있는지, 답하기에 충분한지 판단하는 교체 가능한 판단기를 쓴다. 답변은 증명 트리 구조로 만들어져 각 단계에서 어떤 근거를 따라갔는지 확인할 수 있고, 읽기 모델·임베더·판단기는 다시 훈련하지 않고 바꿀 수 있다.
핵심 포인트
- 는 훈련 없이 여러 단계의 근거를 찾는 검색형 질의응답 구조다.
- , 미세조정, 독점 라이선스 없이 일반 조합으로 실행한다.
- 표준 벤치마크 평균 점수는 68.3으로, GPU 기반 최고 수준 결과와 0.7점 차이라고 제시됐다.
- 기본 은 질문 1개당 0.032달러이고, 저가 설정은 0.018달러다.
- 답변은 증명 트리 구조라서 각 근거 단계를 사람이 확인할 수 있다.