저렴한 구형 GPU로 인공지능 실행 비용 낮추기
폐기 단계에 들어간 엔비디아 기업용 GPU 15종을 최신 작업에 시험한 결과, 일부 제품은 저비용 인공지능 장비로 여전히 쓸 만했다. 16GB P100은 약 75달러, 16GB V100은 200달러 미만에 거래되며, 값싼 X99 제온 메인보드와 조합하면 적은 돈으로 많은 VRAM을 확보할 수 있다. V100은 훨씬 비싼 T40과 비슷한 성능을 보여 가격 대비 가장 균형이 좋았다.
을 실행할 때는 같은 파스칼 세대의 P100보다 P40이 더 나았다. 지원이 끝난 소프트웨어 문제는 같은 이전 버전 프로그램을 소스에서 직접 컴파일하는 방식으로 우회할 수 있다. 전력 효율은 좋지 않지만, 이 없을 때 장비를 끄면 가정용 실험 환경에서는 전기 낭비를 줄일 수 있다.
시험에는 K80, M10, M40, M60, P40, P100, V100, T40 등이 사용됐고, 언어 모델뿐 아니라 , 블렌더, 위스퍼 등 여러 작업을 다뤘다.
핵심 포인트
- 16GB P100은 약 75달러, 16GB V100은 200달러 미만에 구할 수 있다.
- V100은 더 비싼 T40과 비슷한 성능을 보여 가격 대비 균형이 좋았다.
- 실행에는 P100보다 P40이 더 적합했다.
- 지원이 끝난 프로그램은 같은 이전 버전을 직접 컴파일해 사용할 수 있다.
- 사용하지 않을 때 장비를 끄면 구형 GPU의 높은 를 줄일 수 있다.