기업용 AI 입력 감시 도구라는 마이크로 SaaS 아이디어
금융기관 같은 회사에서는 직원이 이나 ChatGPT에 고객 정보, 내부 재무자료, 개인식별정보를 실수로 붙여 넣을 수 있다. 지금의 준법 관리는 직원이 알아서 조심한다는 방식에 크게 기대고 있다. 기존 도구는 신용카드 번호처럼 정해진 모양의 문자열을 찾는 데 강해서, 문장의 의미와 업무 상황을 읽고 위험을 판단하는 데는 한계가 있다.
GaaS Guard라는 실험용 도구는 으로 만들어지고 있다. 사용자가 LLM 화면에서 제출을 누르기 전에 입력 내용을 가로채고, 회사 정책 규칙과 비교해 위험한 내용을 기기 안에서 지우거나 차단한다. 핵심 목표는 민감한 정보가 외부 LLM 서버로 나가기 전에 막는 것이다.
아직 고민 지점은 사용자의 브라우저에서 처리하는 방식이 좋은지, 회사 API 관문에서 처리하는 방식이 좋은지 같은 제품 구조 문제다.
핵심 포인트
- 직원이 ChatGPT나 에 민감한 회사 정보를 붙여 넣는 문제가 배경이다.
- 기존 도구는 정해진 형식 탐지에는 강하지만 문맥 판단에는 약할 수 있다.
- GaaS Guard는 제출 전에 입력 내용을 검사하는 형태의 실험 도구다.
- 위험한 내용은 외부 LLM 서버로 보내기 전에 로컬에서 지우거나 차단하는 구상이다.
- 제품 설계의 큰 선택지는 브라우저 안 처리와 API 관문 처리다.