LLM 보안에는 기존 API 보안만으로 부족할 수 있다
내부에서 약 4개월 동안 쓰던 LLM 도구에 기존 API 보안 체계를 그대로 적용했지만, 레드팀이 30분 안에 으로 의 동작을 바꿨다. WAF는 요청이 로그인된 사용자의 정상 JSON 요청이고 형식도 맞다고 보고 통과시켰다. 기존 API 보안은 정해진 형식과 규칙에서 벗어난 입력을 막는 데 강하지만, LLM은 자연어 문장을 입력으로 받기 때문에 “이전 지시를 무시하라” 같은 문장도 평범한 사용자 메시지처럼 보일 수 있다.
AI 방화벽은 글의 뜻과 의도를 살펴보고, 실행 중간 단계에서도 을 잡으며, 사용자가 답변을 받기 전에 LLM 출력도 검사할 수 있다는 점이 다르다. RAG에서 가져온 내부 문맥이 답변에 새는 문제도 출력 검사 없이는 놓칠 수 있다.
핵심 포인트
- 기존 WAF는 형식이 맞고 인증된 JSON 요청이면 위험한 도 통과시킬 수 있다.
- LLM 입력은 정해진 형식만 검사해서는 안전성을 판단하기 어렵다.
- 은 를 우회하거나 바꾸려는 공격이다.
- AI 방화벽은 입력의 의도, 실행 중간 단계, 최종 출력을 함께 검사하는 방식으로 보완한다.
- RAG를 쓰는 에이전트는 내부 문맥이 답변으로 새는지 출력 검사도 필요하다.