Hermes agent에서 모델 교체 뒤 압축 오류가 난 사례
에서 무료 Groq의 Llama 3.3 70B Versatile 모델은 처음 테스트할 때 정상 작동했다. 이후 이 모델을 기본 모델로 설정하고, 를 를 통한 예비 모델로 둔 뒤 4시 세션 초기화 시점부터 문제가 생겼다. 새 세션을 시작하자마자 압축 오류가 나고, 문맥 길이를 14~16토큰 정도 넘었다는 메시지가 반복됐다.
Llama 모델의 이 더 작다는 점은 알고 있었지만, 새 세션에서도 바로 초과 오류가 나는 점이 이상했다. 중간에 모델을 바꾸면 이 줄어든다는 경고가 나왔다. 크기는 전날 테스트 때와 달라지지 않았다.
압축을 끄면 이번에는 압축 없음 오류가 났고, 압축용 모델을 로 바꿔도 해결되지 않았다.
핵심 포인트
- Groq의 Llama 3.3 70B Versatile은 첫 테스트에서는 정상 작동했다.
- 기본 모델로 설정한 뒤 4시 세션 초기화부터 압축 오류가 시작됐다.
- 새 세션에서도 문맥 길이를 14~16토큰 넘었다는 메시지가 나왔다.
- 압축을 끄거나 압축용 모델을 로 바꿔도 해결되지 않았다.
- 에이전트 모델 교체는 과 압축 설정까지 함께 점검해야 한다.