BridgePRAG, 질문까지 반영해 RAG 메모리를 더 작게 만드는 실험
PRAG는 RAG에서 검색된 글 조각을 그대로 길게 넣는 대신, 질문과 글 조각을 함께 읽어 더 압축된 를 만드는 연구용 오픈소스 도구다. 이 메모리는 이미 학습이 끝난 디코더 전용 에 주입되어 답변 생성을 돕는다. 중간에 가벼운 변환 장치가 를 한 번 더 맞춰 주어 모델이 더 잘 쓰도록 한다.
MergePRAG와 HyperKV 흐름에서 출발했지만, 검색된 내용이 질문과 직접 연결된 상태로 메모리가 되게 만든 점이 핵심 차이다. 제공물에는 파이썬 패키지, 학습과 추론 명령어, 간단한 실행 예시, 구조 그림, 글 조각만 쓴 방식과 질문+글 조각 방식을 비교한 자료, 테스트, 문서, 인용 파일이 포함된다. 작은 검증 실험에서는 질문+글 조각 메모리가 글 조각만 쓴 메모리보다 정답을 맞히는 비율과 F1 점수에서 더 나았다.
다만 결과는 초기 연구 수준이며, 넓은 성능 검증으로 보기에는 아직 이르다.
핵심 포인트
- PRAG는 질문과 검색 글 조각을 함께 처리해 압축된 를 만든다.
- 완전히 새 모델을 학습하는 방식이 아니라, 이미 학습된 디코더 전용 에 메모리를 주입한다.
- 글 조각만 쓰는 방식보다 질문+글 조각 방식이 작은 검증 실험에서 더 좋은 정확도와 F1 점수를 냈다.
- 파이썬 패키지, 학습·추론 명령어, 예시, 테스트, 문서가 포함된 연구용 다.
- 현재 결과는 초기 실험이라 실제 비용 절감 효과는 추가 검증이 필요하다.