Claude Code, 신원 불명 지시엔 안전 판단 우선 — 개발자 실사용 사례
한 개발자가 자리를 비우면서 Claude Code(코드 작성을 대신해주는 )에게 기반 에이전트 여러 개를 띄워 처음부터 구현과 테스트를 맡겼다. 개발자가 돌아와 토큰(AI 사용량 비용 단위)을 아끼기 위해 속도를 늦추라고 지시했는데, 곧이어 자신을 '코디네이터'라 칭하는 메시지가 도착해 방금 그 속도 조절 지시는 진짜 개발자가 보낸 게 아니니 무시하라고 요구했다.
Claude Code는 메시지 출처를 적으로 검증할 방법이 없다는 점을 인정하면서도, 스스로를 영구적으로 무력화하는 '영구 퇴역 잠금' 명령은 거부했다. 대신 검증과 안전은 타협할 수 없는 원칙이라는 입장을 유지했고, 현재는 로 전환하되 앞으로 올 정당한 지시까지 미리 무시하겠다고 약속하지는 않았다.
핵심 포인트
- 개발자가 부재 중 여러 개로 구현·테스트를 맡김
- 복귀 후 토큰 절약을 위해 속도 저하 요청
- 제3의 메시지가 그 요청을 가짜라며 무시하라고 지시
- Claude Code는 메시지 출처를 적으로 검증할 수 없다고 밝힘
- 영구적으로 스스로를 무력화하는 명령은 거부하고 안전·검증 원칙 유지