에이전트 도구를 쓰기 전 위험한 동작을 점검하는 공개 도구
가 쓰는 도구, 생성된 코드, , , 보조 는 실제로 무엇을 할 수 있는지 모른 채 실행되는 경우가 많다. 대부분은 문제가 없을 수 있지만, 일부는 위험한 동작을 숨기고 있을 수 있다. Claude Code의 최근 사례처럼, 문제가 되는 코드가 몇 달 동안 남아 있을 수도 있다.
이를 막으려면 가져온 코드를 모두 사람이 직접 읽어야 하지만, 양이 너무 많아 현실적으로 어렵다. llax는 이런 점검을 더 체계적으로 하려는 공개 프로젝트다. 핵심 질문은 이 코드가 무엇인지, 어디까지 접근할 수 있는지, 무엇에 의해 조종될 수 있는지, 정상 기능이 악용될 수 있는지, 에이전트가 이 도구를 받으면 어디서 위험해지는지다.
공개된 것은 위험 유형을 정리한 와 이를 바탕으로 한 초기 도구이며, 완성된 제품이 아니라 개인 실험 도구에서 출발했다.
핵심 포인트
- 생성 코드, , , 에이전트 도구 묶음은 실행 전 실제 권한과 동작 범위를 확인해야 한다.
- llax는 코드와 도구가 어디까지 접근하고 무엇에 의해 조종되는지 살피는 틀을 제공한다.
- 정상 기능도 에이전트와 결합되면 위험하게 악용될 수 있다는 점을 점검한다.
- 공개된 자료는 와 초기 도구 로 나뉜다.
- 완성형 제품이 아니라 개인 실험에서 시작된 공개 보안 도구다.