Hermes를 가볍게 쓰려면 노트북 성능 한계를 먼저 봐야 한다

기본적인 인공지능 채팅 용도는 족보 정리, 파일 정리와 조작, 문서에서 자료 뽑기, 조사 작업처럼 코딩이 아닌 일상 작업에 맞춰져 있다. 사용할 수 있는 기기는 메모리 16GB의 맥북 에어 M1과 메모리 32GB의 HP EliteBook이다.

HP는 AMD 5 PRO 2500U와 Radeon Vega Mobile Gfx를 쓰지만, 실제로는 대부분 CPU로 모델을 돌릴 가능성이 크고 VRAM도 따로 넉넉하지 않다. 그래서 두 기기 모두 큰 모델보다는 작은 에 더 맞는다.

맥북 에어 M1은 더 큰 모델도 시도할 수 있지만, 토큰/초가 많이 느려질 수 있다. Claude, Codex, Goose, 를 함께 시험하고 있으며, 실행에는 주로 를 쓰는 상황이다.

핵심 포인트

  • 코딩이 아니라 문서 정리, 자료 추출, 조사 같은 기본 채팅 작업이 목적이다.
  • 후보 기기는 메모리 16GB 맥북 에어 M1과 메모리 32GB HP EliteBook이다.
  • HP는 메모리가 더 많아도 CPU 중심 실행이 될 가능성이 커서 빠른 에 불리할 수 있다.
  • 맥북 에어 M1은 더 큰 모델을 시도할 수 있지만 토큰/초가 낮아질 수 있다.
  • 로 작은 모델부터 돌려 보고, 같은 도구와 원격 서비스를 함께 쓰는 흐름이 현실적이다.
원문 보기