검색 증강 생성에서 권한 필터가 보안의 핵심이 된다
한 AI 비서가 다른 고객의 문서를 요약한 일이 있었다. 외부 침입이 아니라, 벡터 검색이 요청받은 대로 의미가 비슷한 을 찾아온 결과였다. 벡터 검색은 내용이 비슷한지를 볼 뿐, 누가 그 문서를 볼 수 있는지는 스스로 판단하지 못한다.
실제 문제는 문서 검색 뒤에 붙은 구조였다. 작업 공간, 소유자, 공개 범위, 역할, 보관 여부 같은 조건을 앱 코드 안에 직접 짜 넣었고, 세 가지 기능마다 조금씩 다른 복사본이 있었다. 이 필터는 매번 검색 때 실행되며 사실상 였지만, 제대로 테스트되지 않았다.
조건 하나가 빠져도 오류가 나지 않고, AI는 사용자가 보면 안 되는 내용을 섞어 자연스럽고 확신 있는 답을 만들 수 있다. 나중에 조사하려 해도 로그에는 앱이 요청한 내용만 남고, 각 검색에서 실제로 어떤 권한 조건이 적용됐는지는 남지 않아 과거 접근 가능 범위를 증명하기 어려웠다.
핵심 포인트
- 벡터 검색은 의미가 비슷한 문서를 찾지만, 사용자의 열람 권한은 자동으로 구분하지 못한다.
- 가 앱 코드 여러 곳에 복사되어 있으면 조건 누락이나 차이가 생기기 쉽다.
- 는 매번 검색 때 작동하므로 실제로는 역할을 한다.
- 오류가 나지 않아도 AI가 허용되지 않은 자료를 바탕으로 자연스러운 답을 만들 수 있다.
- 검색마다 어떤 권한 조건이 적용됐는지 로그로 남겨야 나중에 감사할 수 있다.