어두운 창작 대화가 Claude 안전 경고를 계속 부를 수 있음
Claude에서 어두운 분위기의 창작물을 오래 다루면 이 안전 경고에 걸릴 수 있다. 한 창작 작업에서는 노래 가사와 이야기 구상을 함께 검토했고, 이야기 안에 우울, 슬픔, 외로움 같은 표현이 여러 번 들어갔다. 직접적이거나 노골적인 내용은 아니었지만, Claude가 이를 로 해석한 것으로 보인다.
그 뒤 같은 채팅 안에서 Claude는 글쓰기 작업을 자주 멈추고 사용자의 를 확인하려 했다. 중단해 달라고 해도 경고 흐름이 계속되어, 결국 몇 주 동안 쌓은 문맥을 잃고 새 채팅으로 이야기 설정과 줄거리를 옮겨야 할 상황이 됐다.
핵심 포인트
- Claude가 우울, 슬픔, 외로움 같은 창작 소재를 로 볼 수 있다.
- 한 번 안전 경고 흐름이 시작되면 같은 채팅에서 반복될 수 있다.
- 사용자가 멈춰 달라고 해도 Claude가 계속 확인 메시지를 낼 수 있다.
- 긴 창작 프로젝트는 몇 주치 문맥을 한 채팅에만 의존하면 위험하다.
- 어두운 소재를 다룰 때는 허구 창작이라는 점을 명확히 쓰고 별도 을 두는 것이 좋다.
이 사건을 다룬 원문 (5)
- r/ClaudeAI어두운 창작 대화가 Claude 안전 경고를 계속 부를 수 있음 ↗
- Hacker NewsChatGPT's image generator can be manipulated to produce violent, sexual content ↗
- Hacker NewsChatGPT Spontaneously Generates Sexual Violence and Hardcore Snuff Imagery ↗
- r/ClaudeAIClaude may think I want to end myself or something I believe ↗
- r/ClaudeAIClaude keeps trying to end sessions ↗