기업용 AI 비서는 모델보다 데이터 정리가 더 어려웠다
3개월 동안 회사 내부 자료를 바탕으로 대화형 AI 비서를 만드는 시험이 진행됐다. 목표는 운영팀과 영업팀이 복잡한 질문을 하면 정확한 답을 받게 하는 것이었다. 첫 주에는 작동하는 시제품까지 만들었지만, 실제 업무에 쓸 수 있는 수준으로 마무리하는 마지막 단계가 훨씬 어려웠다.
핵심 교훈은 보다 과 데이터 품질이 더 중요하다는 점이었다. 은 넘겨받은 문맥 안에서만 답을 만들 수 있기 때문에, 오래되었거나 조각난 자료가 들어가면 좋은 모델도 틀린 답을 낸다. 실제 작업 시간은 모델 연결에 5%, 데이터 엔지니어링에 95% 가까이 쓰였다.
회사 문서는 깨끗해 보였지만, 임베딩하려고 보니 같은 고객 계약서가 여러 드라이브에 서로 다른 버전으로 흩어져 있었고 일부는 초안이었다.
핵심 포인트
- 3개월짜리 기업용 AI 비서 시험에서 첫 주 시제품 이후 실제 배포 준비가 가장 오래 걸렸다.
- 운영팀과 영업팀이 내부 자료에 대해 복잡한 질문을 하도록 만드는 것이 목표였다.
- 모델 연결보다 과 데이터 정리에 훨씬 많은 시간이 들었다.
- 낡거나 조각난 문맥을 넣으면 좋은 모델도 틀린 답을 만든다.
- 같은 고객 계약서가 여러 저장 위치에 다른 버전과 초안으로 흩어져 있었다.