AI 에이전트 실행 권한을 모델에서 서버로 분리하는 방식
많은 도구의 사람 는 실제 제어라기보다 잠깐 멈추는 단계에 가깝다. 사람이 승인 버튼을 누른 뒤에도 모델이 직접 도구를 호출하면, 프롬프트가 꼬이거나 공격을 받아도 실행까지 이어질 수 있다. 제안된 방식은 모델이 실행 권한을 갖지 못하게 막는다.
모델은 할 일을 제안하고 승인 문을 여는 역할만 하며, 실제 함수는 보지 못한다. 사람이 승인하면 서버가 장부를 통해 그 작업을 한 번만 실행한다. 그래서 문제가 생긴 프롬프트에는 실제 행동을 일으킬 통로가 없다.
개발자는 로 코드를 쓰고, 실행하는 사람은 승인과 거절 버튼이 있는 화면만 사용한다. 작성도 패키지 안의 기술 묶음을 바탕으로 가 도와주는 베타 단계의 다.
핵심 포인트
- 모델은 도구를 직접 실행하지 않고 실행 제안만 만든다.
- 사람이 승인하면 서버가 해당 작업을 한 번만 실행한다.
- 문제가 생긴 프롬프트가 실제 함수에 닿지 못하게 설계했다.
- 개발자는 로 작업하고, 운영자는 승인과 거절 버튼만 본다.
- 일부는 가 패키지 안의 기술 묶음을 바탕으로 작성한다.