24시간 안에 법률 문서 질의응답 챗봇을 만드는 RAG 설계 고민
인턴십 과제로 24시간 안에 법률 챗봇의 첫 작동 버전을 만들어야 하는 상황이다. 사용자는 법률 PDF를 직접 올리고, 챗봇 화면에서 그 문서에 대해 자연어로 질문한다.
목표는 새 모델을 훈련하는 것이 아니라, 업로드된 PDF를 잘게 나누고 찾아볼 수 있게 만든 뒤, 관련 문맥을 찾아 가 답변하도록 하는 을 만드는 것이다. 기술 구성은 프런트엔드가 Vite와 , 백엔드가 Go, 가 SQLite, 언어 모델이 로 고정되어 있다.
핵심 흐름은 PDF 업로드, 문서 처리와 색인, 질문 입력, 관련 조각 검색, 검색된 문맥을 바탕으로 한 답변 생성이며, 가능하면 출처 표시도 붙이는 방식이다. 고민 지점은 이 구성에서 가장 단순하면서 나중에 키우기 쉬운 RAG 구조, 와 함께 쓸 , SQLite를 어떻게 활용할지 같은 실제 구현 선택이다.
핵심 포인트
- 법률 PDF를 올리고 그 문서에 대해 질문하는 챗봇을 24시간 안에 만들어야 한다.
- 새 모델 훈련이 아니라 을 만드는 것이 핵심이다.
- 기술 구성은 Vite, , Go, SQLite, 로 고정되어 있다.
- 문서를 처리해 색인한 뒤, 질문과 관련된 조각을 찾아 답변에 넣는 흐름이다.
- 가능하면 답변에 근거가 된 출처 표시를 붙이는 것이 목표다.