금융 챗봇용 AI 에이전트에 도구를 몇 개 붙일지 고민
금융 챗봇 앱에 모델을 쓰고, 계좌, 상담, 포트폴리오 같은 목적별로 6~7개의 에이전트를 두려는 구상이다. 사용자의 요청을 알맞은 에이전트로 보내는 도 포함된다.
핵심 고민은 LLM이 안정적으로 일을 처리하려면 에이전트에 도구를 몇 개까지 연결하는 것이 좋은가이다. 한 에이전트에 10~15개의 도구를 붙이는 방식이 괜찮은지, 아니면 더 작은 한계선을 두는 편이 나은지가 문제다.
핵심 포인트
- 모델을 금융 챗봇 앱에 쓰는 구상이다.
- 계좌, 상담, 포트폴리오 등 목적별로 6~7개의 에이전트를 나누려 한다.
- 가 사용자 요청을 알맞은 에이전트로 보내는 구조다.
- 한 에이전트에 10~15개의 도구를 붙이는 것이 적절한지 고민하고 있다.
- 도구 수는 에이전트의 판단 정확도와 에 영향을 줄 수 있다.