AI 에이전트 데모보다 어려운 것은 운영 환경의 권한 통제
와 시스템은 데모에서는 잘 작동해 보일 수 있다. 하지만 데모가 답변 능력을 보여준다고 해서 실제 업무 데이터에 연결해도 안전하다는 뜻은 아니다. 고객 관리 시스템, 내부 문서, 실제 작업을 실행하는 시스템에 붙이면 가장 큰 위험은 권한 관리에서 나온다.
에 “사용자 본인 데이터만 보여줘”라고 적는 것은 접근 통제가 아니다. 이런 지시는 쉽게 우회될 수 있으므로, 사용자의 , 정책, 원본 시스템의 접근 권한 규칙 같은 확정적인 층에서 모델에 데이터가 가기 전에 막아야 한다. 모델은 어떤 시스템에도 항상 열려 있는 권한을 가져서는 안 된다.
또 기존의 높은 이나 을 편의상 재사용하면, 에이전트가 그 계정이 닿을 수 있는 모든 곳에 실제 권한을 갖게 된다. 에이전트에는 별도 신원, 좁게 제한한 권한, 도구별 허용 목록이 필요하다.
핵심 포인트
- 데모 성공은 실제 업무 데이터에 연결해도 안전하다는 증거가 아니다.
- 는 접근 통제로 쓰면 안 된다.
- 데이터는 모델에 도달하기 전에 신원, 정책, 원본 시스템 권한으로 걸러야 한다.
- 높은 이나 재사용은 에이전트 권한을 지나치게 키운다.
- 에이전트에는 별도 신원, 제한된 권한, 도구별 허용 목록이 필요하다.