기업용 SaaS에 맞는 RAG 설계 고민
목표는 안에서 여러 업무 자료를 읽고 답하는 인공지능 상담 기능을 만드는 것이다. 사용자는 PDF와 데이터베이스 파일을 올릴 수 있고, , , 고객관리 도구 같은 외부 서비스도 연결된다. 단순히 자료에서 사실만 찾아 답하는 기본 RAG가 아니라, 업무 판단에 도움이 되도록 이유를 따지고 조언까지 하는 시스템이 필요하다.
답변은 근거 자료와 연결되어야 하며, 출처 표시가 있어야 하고, 사실을 꾸며내는 환각을 줄여야 한다. 와 을 쓰는 상황에서, 기업 환경에 맞는 구조, 도구 선택, 평가 지표를 어떻게 잡을지가 핵심이다.
핵심 포인트
- 에서 PDF, 데이터베이스 파일, 회계·스프레드시트·고객관리 데이터를 함께 다루려는 요구다.
- 기본 RAG를 넘어서 업무 판단과 조언까지 가능한 시스템을 목표로 한다.
- 답변에는 근거와 출처 표시가 필요하며, 환각을 줄이는 것이 중요한 조건이다.
- 와 을 쓰는 전제로 구조와 도구 선택을 고민하고 있다.
- 평가 지표를 만들어 답변 품질과 신뢰성을 확인하려는 필요가 있다.