보건용 RAG 챗봇에서 말 이해와 답변 통제를 나누는 설계
보건 분야의 완전 도우미가 엑셀 파일을 바탕으로 질문에 답하도록 설계되고 있다. 엑셀은 숫자 중심이 아니라, 짧은 단어부터 긴 문장까지 들어 있는 글자 중심의 표 형태 데이터다. 데이터는 영어와 프랑스어가 섞여 있다.
흐름은 사용자의 질문을 LLM 파서가 의도로 바꾸고, 별도의 가 그 결과를 고친 뒤, 과 가 엑셀 행을 걸러내고, 최종 답을 보여주는 방식이다. LLM은 사용자의 말을 구조화하는 데만 쓰이고, 실제 어떤 행을 가져올지는 정해진 규칙으로 처리된다. 핵심 고민은 사용자가 엑셀에 적힌 단어와 다른 표현으로 질문할 수 있다는 점이다.
동시에 보건 분야라서 환각을 허용하기 어렵고, 파서를 너무 엄격하게 만들면 사용자가 자연스럽게 질문하기 힘들 수 있다.
핵심 포인트
- 완전 도우미가 보건 분야 엑셀 데이터를 대상으로 설계되고 있다.
- 엑셀 데이터는 숫자보다 자연어 문장이 많은 표 형태다.
- LLM은 질문을 의도로 바꾸는 역할만 맡는다.
- 실제 행 선택은 과 의 필터링으로 처리된다.
- 주요 위험은 다른 표현으로 된 질문을 놓치거나, 보건 답변에서 환각이 생기는 것이다.