추론 비용을 늘리지 않고 환각을 줄이는 SRM-LoRA
는 을 적은 수의 추가 매개변수로 하는 를 바꿔, 사실과 다른 답변인 환각을 줄이는 방법이다. 학습 과정에서 각 변경 방향이 결과에 미치는 민감도를 계산하고, 오류 위험이 큰 방향의 변경을 억제한다. 모델이 답을 만드는 계산 과정은 건드리지 않으므로 은 기존 와 같다.
HaluEval-QA 데이터만으로 학습했지만, 이 데이터와 관련된 평가뿐 아니라 성격이 다른 평가에서도 사실 신뢰도가 높아졌다고 연구진은 보고했다. 구현 코드는 GitHub에 공개됐으며, 연구는 ICML 2026 워크숍에서 발표됐다.
핵심 포인트
- 는 학습 중 오류 위험이 큰 변경 방향을 억제한다.
- 답변을 생성하는 계산은 그대로여서 이 늘지 않는다.
- HaluEval-QA만으로 학습하고도 성격이 다른 평가에서 사실 신뢰도가 개선됐다고 보고됐다.
- 구현 코드가 GitHub에 공개됐다.