에이전트 보안을 위해 명령과 외부 데이터를 분리하는 방식
도구를 쓰는 에이전트는 웹페이지, 파일, 같은 외부 정보를 읽다가 숨은 지시에 속을 수 있다. 이런 문제를 이라고 하며, 특히 에이전트가 읽은 내용을 바탕으로 실제 행동까지 할 때 위험이 커진다. Sentinel 는 에이전트가 믿을 수 있는 명령과 믿을 수 없는 외부 데이터를 다른 통로로 다루게 하는 중간 계층이다.
핵심은 외부 입력을 위험한지 아닌지 맞히려 하지 않고, 실행 행동에는 서명된 권한 토큰이 있어야만 하게 만드는 것이다. 그래서 에이전트가 무엇을 보았는지와 실제로 무엇을 실행할 수 있는지를 분리한다. 구현은 기반 미들웨어, 실행 요청용 토큰 권한 확인, 점검용 화면, 에이전트 판단과 도구 사용 기록, 단일 저장소 또는 저장소를 포함한다.
Claude 기반 세션 같은 여러 에이전트 구조에도 붙일 수 있는 형태로 설계되어 있다.
핵심 포인트
- 은 에이전트가 외부 데이터 속 숨은 지시를 명령처럼 따를 때 생기는 위험이다.
- Sentinel 는 믿을 수 있는 명령과 믿을 수 없는 외부 데이터를 분리한다.
- 도구 실행에는 서명된 권한 토큰이 필요해, 읽기와 실행 권한을 따로 관리한다.
- 미들웨어, 점검 화면, 감사 로그, 저장을 지원한다.
- 여러 에이전트가 함께 움직이는 구조에도 붙일 수 있게 설계되어 있다.