Claude의 안전장치가 전문적인 활용을 막는다는 불만

의료 전문가의 직접 사용 경험에서는 Claude가 임상 주제에 대해 깊이 있는 대화를 거의 허용하지 않았다. 실제 환자 사진은 아니지만 같은 질병 상태를 보여 주는 이미지와 여러 진료 예시를 넣어도, Claude는 자세한 논의를 피하려 했다.

짧은 질문으로 대화를 시작하면 그 뒤 세션 전체가 막힌 듯한 답변으로 이어졌다. 비슷한 제한은 학술 글 검토, 전문적인 의사소통 문장 점검, 사회관계망 활동 평가처럼 비교적 민감도가 낮은 작업에서도 나타났다.

핵심 문제는 안전을 위한 가드레일이 너무 넓게 작동해, 전문 지식을 가진 사람이 생산적으로 쓰기 어렵다는 점이다. 대형 언어 모델을 처음 쓰는 입장에서는 Claude가 더 엄격하게 피드백하도록 만들 수 있는 문맥 설정 방법이 있는지 궁금해하고 있다.