AI 에이전트가 지운 개인정보를 실제로 복구할 수 있는지 검사
RAG와 시스템에서 원본 의 행만 삭제하면 같은 내용이 다른 곳에 남을 수 있다. 에 저장된 임베딩, 검색·프롬프트 기록, 임베딩 서비스의 캐시, 오프라인 백업은 따로 지워야 한다. Morris 연구진은 2023년 연구에서 짧은 입력의 임베딩으로 원문을 약 92% 정확히 복원할 수 있다고 보고했다.
Ghost Vectors 연구도 HNSW 색인에서 삭제 표시만 된 벡터를 다시 복원할 수 있다고 밝혔다. 따라서 삭제 명령이 실행됐다는 기록만으로는 GDPR의 삭제권을 제대로 지켰다고 보기 어렵다. 이를 확인하기 위한 가벼운 감사 도구는 개인정보가 저장될 수 있는 메모리 저장소, , 캐시, 기록을 등록한 뒤 삭제 절차가 끝나면 각 장소에서 내용을 다시 찾아 복구하려고 시도한다.
텍스트와 캐시는 원문이 그대로 남았는지 검사하고, 에서는 비슷한 항목을 다시 검색한다.
핵심 포인트
- 삭제 대상은 원본 행뿐 아니라 , 캐시, 기록, 백업까지 포함해야 한다.
- 삭제 명령의 성공 여부와 데이터의 복구 가능성은 서로 다른 문제다.
- 임베딩에는 원문을 상당 부분 되살릴 수 있는 정보가 남을 수 있다.
- 삭제 후 각 저장소에서 실제 복구를 시도하는 검사가 필요하다.
- 에이전트의 를 만들 때 데이터 위치와 삭제 경로를 함께 기록해야 한다.