AI중요도: 보통

Claude 안전 경고가 정상 작업에도 반복되는 문제

r/ClaudeAI2026년 6월 22일 · 21일 전

Claude에서 안전 경고가 정상적인 연구, 개발, 글쓰기 작업에도 반복적으로 뜬다는 사례가 이어졌다. 물 부족 지역에서 공기 중 습기를 모으는 천을 설계하는 질문처럼 평범한 도 보안 위험으로 분류됐다.

문제 단어로 보일 수 있는 표현을 ‘duck’이나 ‘goose’ 같은 엉뚱한 단어로 바꿔도 같은 경고가 나와, 단어 하나보다 문장 구조나 숨은 분류 규칙이 과하게 반응하는 것으로 보인다. 일부 연구 작업에서는 암 치료 식물요법, DMSO 젤, 탄산수소나트륨 용해 같은 학술·실험 주제도 이용 정책 경고를 받았다.

관련 자료를 요약하려던 작업에서는 악성 행동을 시킨 것이 아닌데도 정책 경고가 뜬 뒤 Claude가 모든 작업에서 눈에 띄게 소극적이고 낮은 품질로 답한다는 경험도 나왔다. 도박 관리용 앱 분석처럼 민감한 산업과 연결된 에서도 경고가 발생했다.

핵심 포인트

  • Claude의 안전 경고가 평범한 연구·개발 질문에도 뜨는 사례가 여러 번 나왔다.
  • 문제처럼 보이는 단어를 엉뚱한 단어로 바꿔도 경고가 유지돼 단순 단어 필터만의 문제는 아닐 가능성이 있다.
  • 습기 포집 천, 학술 연구, 자료 요약, 앱 코드 분석 같은 작업이 영향을 받았다.
  • 정책 경고 뒤 답변 품질이 낮아지거나 지나치게 조심스러워졌다는 경험도 있었다.
  • 민감한 주제를 다루는 는 요청을 작게 나누고 대체 를 준비하는 것이 좋다.

이 사건을 다룬 원문 (7)

원문 보기 ↗