AI 답변에는 ‘모르겠다’ 표시가 필요하다는 논의
가 확실하지 않은 질문에도 그럴듯한 답을 내놓는 문제가 핵심입니다. 단순히 ‘모르겠다’ 버튼을 넣는다고 해결되지는 않는다는 의견이 많습니다. 현재의 은 사람처럼 스스로 아는 것과 모르는 것을 분명히 구분하지 못할 수 있기 때문입니다.
실용적인 방법으로는 에 ‘확신이 낮으면 모른다고 말하라’고 넣는 방식이 제안됐습니다. 더 강한 방법은 같은 질문에 여러 답을 만들게 한 뒤 답들이 서로 얼마나 일치하는지 보는 것입니다. 답이 제각각이면 AI가 빈칸을 추측하고 있을 가능성이 크고, 답이 거의 같으면 비교적 확신이 높다고 볼 수 있습니다.
다만 이 방식은 토큰을 10배에서 100배까지 더 쓸 수 있어 비용이 큽니다. 어떤 작업에서는 AI가 빨리 포기하지 않고 끝까지 시도하는 것이 더 좋으므로, 답변 밖에 낮은 확신 경고를 붙이는 방식이 더 낫다는 의견도 있습니다.
핵심 포인트
- AI가 모를 때도 그럴듯하게 답하는 문제를 줄이자는 논의다.
- ‘모르겠다’ 버튼만으로는 부족할 수 있다. 모델이 자기 한계를 정확히 알지 못할 수 있기 때문이다.
- 에 ‘확신이 낮으면 모른다고 말하라’고 넣는 방법이 제안됐다.
- 여러 답을 만들어 서로 비교하면 추측인지 아닌지 가늠할 수 있지만 이 크게 늘 수 있다.
- 창의적 문제 해결에서는 바로 포기하는 답보다 낮은 확신 경고가 더 유용할 수 있다.