무료 도구로 인도 법률 RAG AI를 만들려는 설계 고민
인도 법률용 AI 도우미는 사용자가 일상어로 사건을 설명하면 가능한 범죄 혐의를 찾고, 관련 법 조항과 연결하며, 왜 그 조항이 맞는지 설명하는 것을 목표로 한다. 예를 들어 집에 누군가 침입해 휴대폰을 훔쳤다는 설명을 법률 조항과 절차 안내로 바꾸려는 방식이다.
초기 지식 기반에는 인도 헌법, Bharatiya Nyaya Sanhita, Bharatiya Nagarik Suraksha Sanhita, Bharatiya Sakshya Adhiniyam이 들어간다. 핵심 요구는 답변에 사용한 정확한 조항을 인용해 환각을 줄이는 것이다.
개발 순서는 먼저 튼튼한 RAG 흐름을 만들고, 이후 사실 추출, 자료 검색, 법률 판단, 답변 검증으로 나뉜 흐름을 붙이는 방향이다. 비용을 낮추기 위해 나 , Qdrant Cloud 무료 플랜, , 로컬 BGE 임베딩과 , , Groq 기반 모델 사용을 검토하고 있다.
핵심 포인트
- 사용자는 인도 법률용 AI 도우미를 만들고 있다.
- 목표는 사건 설명을 범죄 혐의, 관련 조항, 적용 이유, 절차 안내로 바꾸는 것이다.
- 정확한 법 조항 인용으로 환각을 줄이려 한다.
- 먼저 RAG 흐름을 만들고, 이후 구조를 추가하려 한다.
- 무료 플랜과 로컬 실행 도구를 써서 개발 비용을 낮추려 한다.