Agentic RAG가 일반 RAG보다 복잡한 질문에 강한 이유
일반 는 사용자의 질문을 숫자 벡터로 바꾸고, 관련 몇 개를 한 번 찾아서, 그 내용을 LLM에 넣은 뒤 답을 만듭니다. 이 방식은 데모에서는 좋아 보이지만, 질문이 여러 부분으로 나뉘거나 여러 자료를 비교해야 할 때 쉽게 약해집니다. 처음에 잘못된 을 가져오면, LLM은 부정확한 근거를 바탕으로 그럴듯하지만 틀린 답을 만들 수 있습니다.
는 한 번 찾고 끝내는 직선형 절차가 아니라, 에이전트가 중심에서 계속 판단하는 반복 구조를 씁니다. 에이전트는 어떤 자료를 찾아야 할지 계획하고, 질문을 적절한 경로로 보내고, 나온 답이 충분한지 스스로 확인한 뒤, 더 필요한 정보가 있으면 다시 찾습니다. 핵심 차이는 단순히 한 번 검색하는 시스템과, 여러 단계를 거쳐 문제를 점검하는 시스템의 차이입니다.
제목에서는 이 방식으로 API 을 45밀리초 줄였다고 하지만, 제공된 내용에는 그 절감 방법이나 측정 조건은 나오지 않습니다.
핵심 포인트
- 일반 는 질문을 바꾸고, 을 한 번 찾고, 그 결과로 답을 만듭니다.
- 복잡한 질문이나 여러 자료 비교에서는 처음 검색이 틀리면 답도 흔들립니다.
- 는 에이전트가 검색 계획, 경로 선택, 답 검토, 재검색을 반복합니다.
- 제목은 API 을 45밀리초 줄였다고 하지만, 구체적인 방법은 제공된 내용에 없습니다.
- 토큰과 비용을 줄이려면 모든 질문에 반복 구조를 쓰기보다 필요한 경우에만 써야 합니다.