LLM 앱의 안전장치가 업무 흐름을 느리게 만드는 문제
사내 앱에서 를 붙이는 일이 기능 개발보다 더 큰 부담이 되고 있다. 사례는 고객 문의 기록과 자주 묻는 질문을 바탕으로 답변 초안을 쓰는 지원 봇, 그리고 데이터 창고를 API로 조회하고 계약서·정책 을 하는 내부 도우미다.
안전 규칙을 강하게 잡으면 정상적인 업무 요청까지 거절해 직원들이 일을 못 한다고 느낀다. 반대로 규칙을 느슨하게 하면 보안팀은 유출을 걱정하고, 법무팀은 고객에게 이상한 답변이 나갈 위험을 걱정한다.
지금까지 시도한 방법은 안전과 말투에 대한 지시, 역할별 허용 도구와 표 제한, 명백한 문제를 걸러내는 정규식 필터, 더 엄격한 검토와 거절 기준이다. 실제로는 지원 봇이 일반적인 환불·해지 문의까지 거절하고, 분석 도우미는 너무 많은 데이터 열이 막혀 문맥을 잃으며, 추가 검사가 을 늘려 사람들이 기존 방식으로 돌아가고 있다.
핵심 포인트
- 사내 앱의 가 기능 개발보다 더 많은 시간을 쓰게 만들고 있다.
- 지원 봇은 고객 문의 기록과 자주 묻는 질문을 이용해 답변 초안을 만든다.
- 내부 도우미는 데이터 창고 API와 을 함께 사용한다.
- 규칙을 강하게 하면 정상 업무까지 거절하고, 약하게 하면 보안·법무 위험이 커진다.
- 추가 검사가 을 늘려 사용자가 예전 업무 방식으로 돌아가고 있다.