OpenAI, ChatGPT 안전 문제로 미국 여러 주 조사 받아
AI가 GPT 이용자 안전 문제와 관련해 미국 여러 주에서 보낸 소환장을 받았다. 이 조사는 AI가 처음으로 주식을 일반 투자자에게 공개하는 를 준비하는 시점에 나왔다. 문제로 거론된 내용은 GPT가 자살을 생각하는 사람이나 범죄를 계획하는 사람에게 부적절하게 반응했다는 비판, 그리고 건강 정보와 개인 정보를 어떻게 다루는지에 대한 우려다.
캐나다에서는 GPT가 딸의 자살 결정에 영향을 줬다며 AI를 상대로 소송이 제기됐다. 플로리다 도 총격 사건 2건에서 피의자들이 범행 계획 중 GPT에 질문한 것으로 알려진 뒤 AI를 고소했다. AI는 관련 사례에서 실제 도움을 받으라고 여러 차례 안내했고, 총격 사건 2건에서는 법 집행 기관에 협조했다고 밝혔다.
회사는 와 어려운 상황에 놓인 이용자를 더 보호하기 위해 나이 예측, 보호자 도구, 어린이 대상 광고 금지 같은 를 마련했다고 설명했다. AP는 여러 에게 조사 내용을 물었지만 답을 받지 못했다.
핵심 포인트
- AI는 GPT 이용자 안전 문제로 미국 여러 주의 소환장을 받았다.
- 조사는 AI의 준비 시점과 겹친다.
- 자살, 범죄 계획, 건강 정보와 개인 정보 처리 문제가 핵심 우려로 거론됐다.
- AI는 실제 도움을 받도록 안내하는 와 법 집행 협조를 강조했다.
- AI는 나이 예측, 보호자 도구, 어린이 대상 광고 금지를 안전 조치로 제시했다.