AMD MI50 GPU 전력 제한 150W가 발열 대비 속도의 최적점

AMD Instinct MI50(16GB 메모리) GPU에서 와 ROCm 7.2.4로 Qwen3.5-9B 모델(Q4_K_M 양자화, 약 5.4GB, 컨텍스트 3만2천 토큰)을 돌리며 전력 제한( 상한)을 바꿔가며 텍스트 생성 속도를 테스트했다. 기본값인 100W(에너지 절약 우선 설정)에서 150W로 올리자 텍스트 생성 속도가 19% 빨라졌고, 늘어난 발열은 크지 않았다. 반대로 150W에서 카드 최대치인 250W까지 전력 제한을 완전히 풀면 속도는 12% 정도만 추가로 빨라졌지만, 소모 전력은 훨씬 많이 늘었다.

즉 150W가 속도 대비 발열·전력 효율의 최적 지점이었다. 테스트는 HP Z440 44를 설치하고, RP2040-Zero 보드로 GPU 온도에 따라 팬 속도를 자동 조절하는 커스텀 냉각 장치를 붙인 환경에서 진행됐으며, 실내 온도 24도 조건에서 각 설정마다 같은 프롬프트로 3회씩 반복 측정했다.

핵심 포인트

  • 전력 제한을 100W에서 150W로 올리면 텍스트 생성 속도가 19% 향상
  • 150W에서 250W(최대)까지 더 올려도 속도는 12%만 추가 상승, 는 크게 증가
  • 150W가 속도와 발열·전력 효율의 균형점
  • RP2040-Zero로 GPU 온도 기반 팬 속도 자동 제어 냉각 시스템 구성
  • + ROCm 7.2.4 조합으로 Qwen3.5-9B 모델을 로컬 구동
원문 보기