에이전트형 RAG를 직접 만들지, 연구 API를 쓸지의 선택

에이전트형 RAG는 검색 도구와 페이지 읽기 도구를 에이전트에 붙이고, 좋은 지시문을 준 뒤 반복 작업을 시키는 방식이다. 에이전트가 검색하고, 읽고, 다시 생각하고, 다시 검색한 뒤 답을 합치면 근거가 있는 답을 꽤 잘 만들 수 있다는 주장이다. 이 방식은 작업 흐름, 지시문, 모델, 재정렬 방식을 직접 조정할 수 있다는 장점이 있다.

Exa, Parallel, Tavily 같은 연구용 API도 내부적으로는 비슷한 에이전트 반복 작업을 돌리고, 그 위에 몇 가지 제어 장치를 더한 것처럼 보인다는 문제의식이 나온다. 핵심 의문은 그런 추가 제어가 검색 계층 전체를 보이지 않는 블랙박스에 맡길 만큼 큰 가치가 있느냐는 것이다. 직접 만들기 어려운 부분은 공개 웹 전체를 잘 훑는 색인, 대규모 차단 회피, 메뉴나 바닥글 같은 잡음을 빼는 깔끔한 추출이다.

그 밖의 에이전트 흐름은 직접 소유하고 조정하는 편이 낫다는 관점이다.