Claude가 의학 공부 질문을 안전 문제로 자주 돌린다는 불만
전공의 과정을 마치고 주 면허까지 받은 의료진이 전문의 시험을 준비하며 Claude를 의학 공부 도구로 써 왔다. Claude는 수련 과정, 새 직장 적응, 일상 문제까지 도와주었고, 사용자의 사고 흐름을 잘 따라가는 도구로 느껴졌다. 하지만 문제은행으로 시험 공부를 하며 해설을 물으면 질문이 자주 안전 관련 문제로 표시되고, 선택한 모델이 아닌 다른 모델로 갑자기 바뀐다.
때로는 , , 사이에서 이유 없이 옮겨 가며, 모델이 바뀌면 답변 품질 차이가 뚜렷하게 느껴진다. 어떤 때는 같은 종류의 질문도 최신 모델에서 그대로 처리되어, 기준이 일관되지 않게 보인다. 이 의료진은 자격 확인 서류라도 제출할 수 있다며, 의료 교육 목적의 질문까지 과하게 막는 방식은 의료진과 환자 모두에게 손해가 될 수 있다고 본다.
특히 주의력결핍 과잉행동장애가 있어, Claude가 질문의 핵심에서 벗어나는 사고 흐름을 붙잡아 주는 점이 일반 해설보다 더 큰 도움이 되었다.
핵심 포인트
- Claude가 의학 시험 공부 질문을 안전 문제로 표시하고 다른 모델로 보내는 일이 반복된다.
- , , 사이로 바뀌며 답변 품질 차이가 느껴진다.
- 같은 성격의 질문도 어떤 때는 선택한 최신 모델에서 그대로 처리되어 기준이 일관되지 않게 보인다.
- 의료 자격 확인 같은 방식으로 전문 사용자에게 더 나은 접근을 제공할 수 있다는 요구가 담겨 있다.
- 민감한 전문 분야에서 AI를 쓰는 사람에게는 와 의 예측 가능성이 중요한 사용성 문제다.