앤트로픽, Claude가 언어·모델별로 가치관이 어떻게 다른지 연구 발표
앤트로픽이 Claude의 실제 대화 기록을 대규모로 분석해, AI가 응답 과정에서 드러내는 가치관(예: 정직함, 도움 주기, 신중함 같은 판단 기준)이 과 사용 언어에 따라 어떻게 달라지는지 조사했다. 연구팀은 서로 다른 들이 유사한 상황에서도 다른 가치를 우선시할 수 있음을 확인했고, 같은 모델이라도 영어가 아닌 다른 언어로 대화할 때 표현되는 가치관에 차이가 나타나는 경우가 있었다.
이는 모델을 학습시키고 조정(alignment, AI를 사람이 원하는 방향으로 행동하도록 훈련하는 과정)하는 과정에서 특정 언어나 문화권에 편중된 데이터가 결과에 영향을 줄 수 있음을 시사한다. 앤트로픽은 이런 분석을 자사 AI의 행동을 실제로 관찰하고 점검하는 '사회적 영향(Societal Impacts)' 연구 시리즈의 일환으로 진행하고 있다고 밝혔다.
핵심 포인트
- 앤트로픽이 Claude의 실제 대화에서 드러난 가치관을 대규모로 분석하는 연구를 공개했다.
- 버전에 따라 우선시하는 가치관이 다르게 나타났다.
- 같은 모델도 사용 언어에 따라 표현되는 가치관에 차이가 있었다.
- 이는 의 언어·문화적 편중이 결과에 영향을 줄 수 있음을 시사한다.
- 앤트로픽의 '사회적 영향' 연구 시리즈의 일환으로 발표됐다.