Hermes Agent의 실수도 막는 4단계 안전장치 원칙
쉘을 쓰는 를 오래 실행하면 언젠가는 파일 삭제, 작업 기록 초기화, 강제 전송, 삭제처럼 되돌리기 어려운 명령을 시도할 수 있다. Claude Code를 비롯한 에이전트가 확인 없이 홈 폴더나 수 기가바이트의 파일을 지웠다는 공개 사례도 있다. 같은 지침 파일에 금지 규칙을 적는 것만으로는 실제 명령 실행을 강제로 차단할 수 없다.
따라서 하나의 도구에 의존하지 말고 서로의 빈틈을 보완하는 4단계 방어가 필요하다. 첫 단계는 명령 가드다. 에이전트의 셸 도구 앞에서 명령을 검사하고 위험한 명령이면 셸에 도달하기 전에 거부한다.
빠르고 비용 부담이 작아 가장 먼저 설치할 만하지만, 이것만으로 모든 위험을 막을 수는 없다.
핵심 포인트
- 가 쓰는 셸 앞에 명령 가드를 두고 위험한 명령을 실행 전에 차단한다.
- 에 금지 사항을 적는 것만으로는 실제 을 강제로 막을 수 없다.
- 파일 삭제, 작업 기록 초기화, 강제 전송, 삭제 명령을 우선 차단 대상으로 삼는다.
- 하나의 안전 도구에 의존하지 말고 여러 방어 단계를 겹쳐 사용한다.
- 명령 가드가 놓칠 상황에 대비해 격리와 백업도 준비한다.