Hermes Agent용 로컬 모델 선택 고민: Qwen 27B와 35B
로컬 에서 또는 를 함께 쓸 모델로 와 Qwen 3.5 35B 중 하나를 고르는 상황이다. 장비는 RX 9070 XT 그래픽카드의 16GB 비디오 메모리, Ryzen 7 7700, 32GB , Ollama 구성이다. 용도는 추론, , 여러 조율이다.
음성 분석은 Whisper가 맡고, 이미지 분석은 별도 비전 모델이 맡는다. 핵심 고민은 긴 에이전트 작업과 추론에서 35B 모델이 더 많은 자원을 쓸 만큼 가치가 있는지, 아니면 27B 모델이나 다른 모델이 더 현실적인 선택인지다.
핵심 포인트
- 또는 와 함께 쓸 로컬 모델 선택 문제다.
- 후보는 와 Qwen 3.5 35B다.
- 장비는 RX 9070 XT 16GB 비디오 메모리, Ryzen 7 7700, 32GB 다.
- 주요 용도는 추론, , 여러 조율이다.
- 35B가 추가 자원을 쓸 만큼 나은지, 27B나 다른 모델이 더 나은지 비교가 필요하다.