듀얼 GPU 서버에서 PCIe 폭을 돈 들여 넓힐지 묻는 사례
현재 시스템은 Asus ROG MAXIMUS Z790 DARK HERO 메인보드, Intel Core i9-14900K, 48GB 4개 구성을 바탕으로 듀얼 Max-Q를 고려하고 있다. 이 메인보드는 그래픽카드 2장을 꽂으면 PCIe 5 연결이 각각 x16이 아니라 x8로 줄어든다. 대안은 여러 개의 PCIe 5 x16 슬롯을 지원하는 PRO 시스템으로 바꾸는 것이지만, 비용이 크게 올라간다.
판단해야 할 작업은 vLLM 기반 추론, , LoRA 작업, Flux.2와 , 영상 생성이다. 핵심은 듀얼 PCIe 5 x8이 실제 작업 속도에 충분한지, 아니면 훨씬 비싼 플랫폼 교체가 필요한지다.
핵심 포인트
- Z790 메인보드는 듀얼 GPU 사용 시 PCIe 5가 x16이 아니라 x8로 동작한다.
- PRO로 바꾸면 여러 PCIe 5 x16 슬롯을 쓸 수 있지만 비용이 크게 늘어난다.
- 비교 대상 작업은 vLLM 추론, , LoRA, Flux.2, , 영상 생성이다.
- 토큰 처리량이나 생성 속도에 차이가 작다면 기존 시스템 유지가 비용 절감에 유리하다.
- 이 항목만으로는 x8과 x16의 실제 성능 차이를 알 수 없다.