사워도우 질문을 위험 요청으로 잘못 본 Claude
Claude에서 사워도우 반죽의 곰팡이와 발효 초기에 생기는 액체층을 구별하는 법을 물었다. 질문은 실수로 에 전달됐고, 시스템은 이를 이나 과 관련된 고위험 요청으로 판단한 듯 로 대화를 했다. 질문에는 컴퓨터 공격이나 위험한 생물 실험에 관한 내용이 없었으므로, 안전 판정이나 모델 배정에서 생긴 오탐으로 보인다.
핵심 포인트
- 질문은 사워도우의 곰팡이와 발효 중 생기는 액체층을 구별하는 방법에 관한 것이었다.
- 질문이 실수로 에 전달됐다.
- 시스템은 이나 과 관련된 고위험 요청으로 판단한 것으로 보인다.
- 대화가 에서 로 됐다.