Claude가 역할극에서 너무 쉽게 수긍하지 않게 만든 방법
은 144쪽짜리 규정이라, 실무자가 처음부터 끝까지 읽기 어렵다. 그래서 실제 상황을 연습하는 교육 가 만들어졌다. Claude는 합성 의료 이미지를 표시하지 않으려는 공급업체, 탐지에 회의적인 정부 부처, 선거 요약에 공개 표시를 붙이지 않은 팀장처럼 반대하는 이해관계자 역할을 맡는다.
문제는 Claude가 사용자의 그럴듯한 주장에 너무 빨리 물러난다는 점이었다. 해결책은 사용자가 의 구체적인 조항을 말할 때만 Claude가 입장을 바꾸게 하는 것이었다. 저항 점수는 안이 아니라 서버 쪽에서 따로 관리했다.
Claude가 그 점수를 알면 점수에 맞춰 행동을 조작할 수 있기 때문이다. 별도의 코치 모드는 정답 조항을 바로 알려주지 않고, 사용자가 올바른 조항을 찾도록 힌트만 준다.
핵심 포인트
- Claude는 역할극에서 사용자의 주장에 너무 쉽게 동의하는 문제가 있었다.
- 구체적인 조항을 인용해야만 Claude가 입장을 바꾸도록 설계했다.
- 저항 점수는 Claude가 볼 수 없는 서버 쪽에서 관리했다.
- 코치 모드는 정답을 알려주지 않고 올바른 조항으로 가는 힌트만 제공했다.
- 이 방식은 규정 교육용 역할극을 더 현실적인 논쟁처럼 느끼게 만든다.