Five Eyes, 강력한 AI 모델의 보안 위험을 공개 경고
미국, 영국, 캐나다, 호주, 뉴질랜드의 정보기관 연합인 가 강력한 이 몇 달 안에 정부와 기업을 흔들 수 있는 수준의 능력을 만들 수 있다고 경고했다. 이 경고는 미국 정부가 Anthropic의 Fable과 를 외국인이 쓰지 못하게 막은 뒤 나왔다.
는 AI가 방어에도 도움이 되지만, 공격자의 속도와 규모, 정교함도 함께 키운다고 봤다. 특히 최신 은 보안 시스템의 취약점을 찾는 일을 더 쉽게 만들 수 있어, 악용될 경우 위험이 커진다.
Anthropic의 는 사이버 시스템의 취약점을 탐지할 수 있는 강력한 모델로 소개됐고, 는 그보다 더 넓은 사용자를 겨냥한 모델로 언급됐다. 호주 정부는 올해 3월 Anthropic을 국가 AI 계획의 첫 협력 기업으로 포함했고, 이 계획은 기업이 AI 발전 상황을 정부와 공유하고 안전을 높이도록 하는 비구속 협약에 가깝다.
핵심 포인트
- 는 강력한 의 사이버 위험이 몇 년 뒤가 아니라 몇 달 안에 커질 수 있다고 경고했다.
- 미국 정부는 Anthropic의 Fable과 를 외국인이 쓰지 못하게 막았다.
- AI는 보안 방어를 돕지만, 공격자의 속도와 규모도 키울 수 있다.
- 는 사이버 시스템의 취약점을 찾는 능력 때문에 제한된 조직에만 제공되는 모델로 언급됐다.
- AI 도구를 쓰는 개인도 제한과 보안 정책 변화를 함께 봐야 한다.