책 한 권을 더 정확히 묻고 답하게 만든 계층형 RAG 앱
DDIA-RAG는 『Designing Data-Intensive Applications』라는 어려운 기술 책을 대화하듯 물어볼 수 있게 만든 RAG 앱이다. 단순히 비슷한 문장을 찾아 보여주는 방식이 아니라, 책의 각 텍스트 조각이 어느 장과 어느 절에 있는지 함께 저장한다. 그래서 넓은 질문은 책 전체에서 의미가 가까운 부분을 찾고, 구체적인 질문은 바로 맞는 절로 좁혀 답한다.
특정 부분을 콕 집어 묻는 질문에는 일반적인 답 대신 단계별 설명을 준다. 기술 구성은 , , Neon 서버리스 와 , Drizzle ORM, Together AI를 쓴다. 모델은 가 텍스트 정리에, Nomic이 임베딩에, 70B가 추론에 쓰인다.
데모와 가 공개되어 있어 구현 방식을 확인할 수 있다.
핵심 포인트
- 텍스트 조각마다 책의 장과 절 정보를 붙여 검색 정확도를 높인다.
- 넓은 질문은 책 전체에서 찾고, 구체적인 질문은 관련 절로 바로 보낸다.
- 작은 모델은 텍스트 정리, 임베딩 모델은 검색 준비, 큰 모델은 답변 추론에 나눠 쓴다.
- , , Neon 서버리스 , , Together AI로 구성되어 있다.
- 데모와 가 공개되어 구현을 직접 확인할 수 있다.