Claude가 운동 계획 요청에 섭식장애 경고를 반복함
운동 계획을 받고 싶었는데 Claude가 와 관련된 내용을 계속 꺼냈다. 사용자는 자신에게 가 없다고 말했지만, Claude는 그 말을 반영하지 못하고 같은 주제를 다시 언급했다. 핵심 문제는 요청한 운동 계획보다 민감한 건강 위험에 대한 경고가 대화의 중심이 되어 버렸다는 점이다.
핵심 포인트
- 요청의 목적은 운동 계획을 받는 것이었다.
- Claude가 관련 내용을 먼저 꺼냈다.
- 사용자는 가 없다고 설명했지만, Claude는 그 주제를 계속 반복했다.
- 문제는 답 사용자의 실제 요청에서 벗어나 민감한 건강 경고로 치우쳤다는 점이다.