지자체 챗봇에 Agentic RAG가 정말 필요한가
한 지자체 문서 검색 챗봇 이 회의록, 예산, 동의안, 보고서 같은 자료를 시민과 지역 정치인이 쉽게 찾고 이해하도록 돕는 것을 목표로 한다. 이 프로젝트는 로 공개되어 있고, 데모도 있다.
이미 단순한 질문에서는 동작하지만, 실제 사용자가 예상 밖의 표현을 쓰거나 여러 주제를 한꺼번에 묻거나 문서에 있는 표현과 다른 말로 질문하면 실패하는 일이 생긴다. 문제의 핵심은 사용자가 데모처럼 이 이해하기 쉬운 방식으로 질문하지 않는다는 점이다.
는 질문을 다시 쓰고, 여러 번 검색하고, 답변 전 여러 단계를 거치는 방식으로 이런 문제를 줄일 수 있을지 검토되고 있다. 다만 단순 RAG보다 만들고 유지하기가 얼마나 어려운지, 복잡한 질문에 실제로 도움이 되는지가 판단 포인트다.
핵심 포인트
- 지자체 문서를 찾고 이해하게 돕는 챗봇 이다.
- 대상 문서는 회의록, 예산, 동의안, 보고서 등이다.
- 예상 밖 표현, 여러 주제 결합, 문서와 다른 단어 사용에서 실패가 생긴다.
- 는 질문 재작성, 여러 번 검색, 단계적 답변 생성을 시도할 수 있다.
- 도입 여부는 답변 품질뿐 아니라 , 속도, 난이도까지 비교해야 한다.