Meta AI 차단 규칙을 ‘3개 역할’로 나눠 본 개인 실험
와 일상 대화를 하던 중 같은 주제라도 어떤 때는 답하고 어떤 때는 거절하는 차이가 반복됐다. 4일 동안 5개 주제를 기록한 결과, 가 세 가지 역할처럼 움직인다는 해석이 나왔다. 위험한 행동, 자해, 학대 방법처럼 직접적인 위험이 보이면 강하게 거절하고, 애매하면 막는 쪽으로 기운다.
감정적으로 힘들다는 말에는 대화를 끊기보다 도움을 받을 곳을 안내한다. 저작권은 아주 짧은 인용만 허용하고, 의료 질문은 일반 정보는 답하지만 진단은 피하며 의사를 보라고 안내한다. 같은 성적 내용도 조금씩 말하면 대화형 안내가 나오고, 한 번에 크게 묶어 말하면 차단되는 식으로, 주제보다 말하는 범위와 방식이 결과를 바꿀 수 있다.
실험한 범위는 트라우마, 자해, 성적 내용, 욕설, 저작권, 의료 질문이었다. 결론은 의 ‘양심’을 보는 것이 아니라, 규칙이 비어 있는 곳과 절대 막는 선이 어디인지 드러난다는 쪽이다.
핵심 포인트
- 가 같은 주제에도 답변과 거절을 다르게 보일 수 있다는 개인 관찰이다.
- 위험, 감정 지원, 저작권·의료 같은 규칙이 서로 다른 방식으로 작동하는 것처럼 보였다.
- 같은 성적 내용도 조금씩 말하면 안내하고, 한 번에 크게 말하면 차단될 수 있었다.
- 범위는 트라우마, 자해, 성적 내용, 욕설, 저작권, 의료 질문이었다.
- AI 제품을 만들 때 입력의 주제뿐 아니라 길이와 묶음 방식도 결과에 영향을 줄 수 있다.