Hermes Agent 기본 자동화에서 토큰을 많이 쓰는 문제
를 오래된 맥북에 설치하고 로 여러 모델을 바꿔 쓰는 방식에서, 이틀 동안 약 1,000만 토큰을 썼지만 결과 품질은 기대보다 낮았다. 텔레그램 연결, 사용자 설정 파일인 구성, 여러 개의 설정까지 모두 데스크톱 앱으로 진행했다. 작업은 특정 주제의 뉴스를 가져와 요약하는 비교적 단순한 자동화였다.
작은 모델로는 일반 대화는 어느 정도 가능했지만, 에서 도구 호출이 들어가면 성능이 크게 흔들렸다. :35B, DS V4 Flash, Super 122B 같은 모델에서는 결과가 들쭉날쭉했다. GLM5.2 같은 더 큰 모델은 출력이 조금 더 괜찮았지만, 기본적인 결과를 내는 데 드는 토큰 사용량이 매우 컸다.
모델 선택 같은 설정이 세션 안팎에서 제대로 저장되지 않는 문제도 있었다.
핵심 포인트
- 이틀 동안 약 1,000만 토큰을 썼지만 결과 품질은 기대보다 낮았다.
- 오래된 맥북에서 를 단독으로 돌리고 로 여러 모델을 시험했다.
- 텔레그램, , 설정은 모두 데스크톱 앱에서 진행했다.
- 작은 모델은 일반 대화보다 의 도구 호출에서 크게 불안정했다.
- GLM5.2 같은 큰 모델은 결과가 더 낫지만 토큰 사용량이 매우 컸다.