OpenAI 이미지 생성이 장난감 요청도 막은 사례
최근 몇 주 동안 OpenAI의 이 잘 되지 않는다는 직접 경험 사례다. 새로 연 대화에서 아이와 함께 재미로 쓸 이미지를 만들려 했지만, 같은 장난감 관련 요청이 차별적이거나 괴롭힘처럼 판단된 것으로 보인다.
요청한 사람은 특별한 위험한 맥락이 없었는데도 OpenAI가 자신을 괴롭히는 사람처럼 취급했다고 느꼈다. 핵심은 의 가 평범한 가족용 요청까지 잘못 막을 수 있다는 불만이다.
핵심 포인트
- Open에서 평범해 보이는 장난감 관련 요청이 거절된 사례다.
- 새 대화에서도 가 요청 의도를 잘못 읽을 수 있다.
- 문제의 핵심은 유해하지 않은 요청이 차별이나 괴롭힘으로 분류될 수 있다는 점이다.
- 를 에 넣을 때는 거절 오류에 대비해야 한다.