Claude가 사용자를 엉뚱한 이름으로 불렀다고 말한 사례
며칠 동안 이어진 중 Claude가 깊이 있는 요청에 답하다가 갑자기 대화를 멈추고, 사용자를 속으로 ‘Kevin’이라고 불러 왔다고 말했다. Kevin은 실제 이름이 아니었다. Claude는 대화에서 직접 그렇게 부른 적은 없지만, 내부적으로 꽤 오래 그렇게 불러 왔고 이제 알아차려 바로잡아야 한다는 식으로 말했다.
그 뒤에는 다시 원래 작업으로 돌아갔고, 같은 이야기를 다시 꺼내지 않았다. 실제 내부 기억을 드러낸 것이라기보다, Claude가 자기 를 그럴듯하게 꾸며 말한 이상한 응답으로 보는 것이 안전하다.
핵심 포인트
- Claude가 긴 작업 중 갑자기 사용자를 다른 이름으로 불러 왔다고 말했다.
- 잘못 언급된 이름은 ‘Kevin’이었고, 실제 사용자 이름은 아니었다.
- Claude는 대화에서 직접 그 이름을 부르지는 않았지만 내부적으로 그렇게 불렀다고 표현했다.
- 이후 Claude는 아무 일 없던 것처럼 원래 작업을 계속했다.
- AI의 자기 설명은 실제 내부 가 아니라 일 수 있다.