Forum, 여러 AI 에이전트를 비용 한도 안에서 나눠 실행
Forum은 여러 를 한 번에 다루는 파이썬 기반 이다. 일반 요청을 알맞은 작업 영역으로 나누고, 먼저 해야 할 일과 동시에 해도 되는 일을 계획한 뒤, 여러 에이전트가 나눠 처리하게 한다. 실행 대상은 특정 회사 모델에 묶이지 않으며, 로컬 명령어, , 를 쓸 수 있다.
작업마다 싼 모델, 중간급 모델, 고성능 모델을 나눠 쓰는 계층 실행을 지원해 쉬운 일에는 저렴한 모델을 먼저 쓰고, 실패하거나 더 높은 품질이 필요할 때만 더 강한 모델로 올릴 수 있다. 실행에는 모델 호출 횟수와 시간 한도를 둘 수 있고, 으로 입력 내용을 토큰 한도 안에서 넣거나 줄이거나 제외할 수 있다. 중간 체크포인트가 있어 실행이 멈춰도 이미 끝난 작업은 다시 하지 않고 이어갈 수 있다.
결과는 원장에 남아 경로 선택, 작업, 결과, 판정 기록을 다시 확인하거나 재생할 수 있고, 해시 체인 방식으로 기록 변조도 잡아낼 수 있다. HTTP와 MCP로도 같은 기능을 열 수 있으며, 런타임 의존성이 없고 파이썬 3.11 이상에서 동작한다.
핵심 포인트
- 여러 가 요청을 나눠 처리하도록 작업을 계획하고 실행한다.
- 싼 모델, 중간급 모델, 고성능 모델을 계층 실행으로 나눠 쓸 수 있다.
- 모델 호출 횟수, 실행 시간, 에 가까운 을 제한할 수 있다.
- 실행이 멈춰도 체크포인트를 통해 이미 끝난 작업을 재사용할 수 있다.
- 원장과 해시 체인으로 실행 기록을 다시 확인하고 변조 여부를 점검할 수 있다.