AI 에이전트에 RAG와 MCP를 언제 써야 하는가

는 정해진 순서로 정보를 찾아 답변에 넣는 방식이다. 보통 문서를 숫자 형태로 바꾸고, 비슷한 내용을 검색한 뒤, 찾은 내용을 모델에 넘겨 답하게 한다. 그래서 , 빠른 응답, 비용 예측이 중요한 서비스에 잘 맞는다.

단점은 흐름이 고정되어 있다는 점이다. 처음 검색한 내용이 틀리면 모델이 스스로 다른 방법을 찾아 고치기 어렵다. 는 모델이 생각하고, 도구를 쓰고, 결과를 보고, 다시 다음 행동을 정하는 반복 구조에 가깝다.

파일, API, 처럼 바뀌는 외부 도구를 연결하기 좋지만, 응답이 느려지고 계산 비용이 들쭉날쭉해질 수 있다. 단순한 조회와 빠른 답변이 목표라면 가 낫고, 여러 도구를 오가며 계획을 세워야 한다면 같은 에이전트 구조가 필요하다.

핵심 포인트

  • 는 문서를 찾아 답변에 붙이는 단순하고 예측 가능한 흐름이다.
  • 는 빠른 응답과 낮은 비용이 중요한 서비스에 잘 맞는다.
  • 는 모델이 외부 도구를 쓰고 결과를 보며 다음 행동을 정하게 한다.
  • 는 강력하지만 느릴 수 있고 계산 비용을 예측하기 어렵다.
  • 단순 조회인지, 여러 도구를 써야 하는 작업인지 먼저 나누는 것이 중요하다.
원문 보기