Aegis, 프롬프트 공격과 환각을 걸러내는 오픈소스 프록시
Aegis는 로 실제 서비스를 만들 때 입력과 출력을 중간에서 검사하는 다. 기존 클라이언트에서 BASE_URL만 Aegis 주소로 바꾸면 붙일 수 있게 설계됐다. 입력 단계에서는 모델에 보내기 전에 10단계 검사 흐름을 돌린다.
글자 모양을 표준 ASCII로 맞추고, 보이지 않는 문자를 지우며, 프롬프트나 검색으로 가져온 문맥 안에 PEM 키, , Log4Shell 같은 공격 문자열이 있는지 찾는다. GCG와 AutoDAN처럼 모델을 속이기 위해 붙이는 적대적 꼬리 문구도 겨냥한다. 출력 단계에서는 답변을 사용자에게 먼저 보낸 뒤 비동기로 분석해, 사용자가 기다리는 시간을 늘리지 않으면서 환각이나 큰 방향 이탈을 살피는 구조다.
라이선스는 다.
핵심 포인트
- Aegis는 모델 호출 앞뒤에 놓는 다.
- 기존 클라이언트는 BASE_URL만 바꿔 연결할 수 있다.
- 입력 검사에서 보이지 않는 문자, 이상한 글자 변형, , 비밀 키, 공격 문자열을 찾는다.
- GCG와 AutoDAN 같은 적대적 꼬리 문구를 탐지 대상으로 삼는다.
- 출력 검사는 응답을 먼저 보낸 뒤 비동기로 돌려 대기 시간을 늘리지 않으려 한다.