확신에 찬 오답은 ‘방향’보다 ‘흔들림’으로 잡아야 한다
중 가장 잡기 어려운 경우는 답이 자연스럽고 자신 있어 보이지만 실제로는 틀린 경우다. 모델이 망설이거나 불확실해 보이는지를 보는 방식은 이런 경우에 약하다. 약 124개 를 살펴본 결과, 확신에 찬 지어내기와 참인 답변은 평균적인 내부 반응만 보면 통계적으로 거의 구분되지 않았다.
모델이 거짓말할 때 항상 같은 ‘방향’으로 움직이는 신호는 보이지 않았다. 차이는 크기와 분산에 있었다. 지어낸 답변에서는 모델 내부 흐름이 더 크게, 더 넓게 흔들렸다.
에서 지어내기와 참인 답변의 분산 비율은 약 7배였고, 는 Cohen's d 약 0.58, p값은 약 0.005였다. 지어내는 정도가 강할수록 흔들림도 커지는 용량-반응 관계가 보여, 단순한 잡음이 아니라 지어내기의 성질일 가능성이 커졌다. 실무적으로는 특정 ‘거짓 방향’을 찾기보다 불안정성을 보고, 답변 전체 구간에 걸쳐 신호를 모으며, 탐지 결과를 차단 장치 하나로만 쓰지 말고 수정이나 재검증 같은 개입과 연결해야 한다.
핵심 포인트
- 자신 있어 보이는 오답은 망설임 신호만으로 잘 잡히지 않는다.
- 약 124개 에서 평균 내부 반응은 참인 답변과 거의 비슷했다.
- 차이는 일정한 ‘거짓 방향’이 아니라 내부 흐름의 크기와 분산이었다.
- 지어낸 답변은 에서 약 7배 더 큰 분산을 보였다.
- 탐지는 단독 차단보다 재검증, 수정, 도구 확인 같은 개입과 함께 써야 한다.