AI 에이전트는 챗봇이 아니라 업무 흐름으로 설계해야 한다
를 단순히 도구를 붙인 챗봇처럼 만들면 짧은 시연에서는 그럴듯해 보여도, 여러 번에 걸쳐 이어지는 실제 업무에서는 쉽게 무너진다. 예를 들어 에이전트는 환영 이메일을 보냈다는 사실을 대화 기록 속 기억에 맡기면 안 된다. 확인, 요금제 선택, 계약서 발송, 계약 완료, 결제 완료, 온보딩 시작, 완료 같은 진행 상태를 에 분명히 저장해야 한다.
LLM은 생각하고, 글을 쓰고, 요약하고, 도구를 호출하고, 다음 행동을 고르는 역할에 적합하다. 하지만 실제 업무 절차는 매번 같은 규칙으로 움직이는 구조여야 한다. 실용적인 구조는 LLM이 판단과 언어를 맡고, 도구가 실제 행동을 하며, 이 진행 단계를 관리하고, 웹훅이나 이벤트가 필요한 때 에이전트를 다시 실행하는 방식이다.
로그와 평가로 단계 누락을 확인하고, 돈이 많이 들거나 위험한 행동에는 사람 승인을 넣어야 한다. 믿을 수 있는 는 거대한 하나가 아니라, 모델 주위에 작은 운영 체제처럼 업무 규칙과 기록을 둘러싼 구조에 가깝다.
핵심 포인트
- 여러 단계가 있는 는 대화 기록만으로 진행 상황을 관리하면 불안정하다.
- 업무 진행 상태는 에 명확히 저장해야 한다.
- LLM은 판단과 언어 처리에 쓰고, 실제 행동은 도구가 맡는 구조가 좋다.
- 은 에이전트가 어떤 단계를 끝냈고 다음에 무엇을 해야 하는지 관리한다.
- 비싸거나 위험한 행동에는 사람 승인을 넣어야 한다.