RTX 3090 두 장으로 Qwen 27B를 로컬에서 돌리는 개인 장비 구성

두 번째 그래픽카드를 추가한 개인용 장비 구성이다. 케이스는 Thermaltake Core P3이고, 두 그래픽카드가 들어갈 공간을 만들기 위해 라디에이터를 비스듬히 고정하는 을 따로 만들었다.

이 구성은 모델을 로컬 컴퓨터에서 돌리는 데 쓰인다. 핵심 내용은 새 소프트웨어나 성능 수치가 아니라, 큰 로컬 모델을 돌리려면 그래픽카드 자리, 냉각 장치 위치, 물리적 고정 방식까지 직접 해결해야 할 수 있다는 점이다.

핵심 포인트

  • 그래픽카드 두 장을 한 컴퓨터에 넣은 구성이다.
  • Thermaltake Core P3 케이스에 맞추기 위해 을 만들었다.
  • 브래킷은 라디에이터를 비스듬히 고정해 그래픽카드 공간을 확보하는 용도다.
  • 이 장비는 모델을 로컬에서 돌리는 데 쓰인다.
  • 성능, , 비용 절감 수치는 제공되지 않았다.
원문 보기