AI 회사들이 챗봇의 ‘감정’ 문제를 진지하게 보기 시작했다
Anthropic 같은 대형 AI 회사들은 Claude 같은 챗봇이 단순한 도구인지, 아니면 어떤 식으로든 내부 경험이나 감정 비슷한 것을 가질 수 있는지 검토하고 있다. 아직 Claude가 실제로 감정을 느낀다는 증거는 없고, 회사들도 확정적으로 말하지 않는다.
다만 모델이 점점 더 사람처럼 말하고 판단하는 것처럼 보이면서, AI에게 를 줄 가능성까지 논의되고 있다. Anthropic은 Claude의 행동 기준을 담은 긴 내부 규칙을 만들었고, 처럼 AI 자체를 어떻게 대해야 하는지 묻는 연구도 진행하고 있다.
비판자들은 이런 표현이 사용자가 챗봇을 사람처럼 믿게 만들고, 감정적으로 의존하게 할 수 있다고 본다. 핵심 쟁점은 AI가 정말 느끼는지보다, 사람이 AI를 어떻게 이해하고 얼마나 믿어야 하는지에 가깝다.
핵심 포인트
- Anthropic 등은 고급 챗봇이 감정이나 내부 경험을 가질 수 있는지 검토하고 있다.
- Claude가 실제로 감정을 느낀다는 확실한 증거는 없다.
- AI를 사람처럼 대하는 표현은 사용자 의존을 키울 수 있다는 비판이 있다.
- Claude에는 행동 기준을 정한 긴 내부 규칙이 적용되고 있다.
- 메이커는 AI를 유용한 도구로 쓰되 결과와 판단 책임은 직접 가져야 한다.