384GB 사내 AI 서버에 어떤 모델이 맞을까
회사가 팀 전용 을 직접 운영하기 위해 그래픽카드 4장과 총 384GB 메모리를 갖춘 서버를 검토하고 있다. 주 사용자는 2~3명이지만, 많을 때는 10~20명이 동시에 접속할 수 있다.
주요 용도는 사내 규정과 자료 관리, 정보 분석과 판단이 필요한 업무다. 개발 작업은 거의 하지 않을 예정이다.
현재 후보는 이며, 향후 그래픽카드를 8장으로 늘릴 가능성도 고려하고 있다. 다만 구체적인 모델 비교, 처리 속도, 운영 비용이나 최종 선택 결과는 제시되지 않았다.
핵심 포인트
- 그래픽카드 4장과 총 384GB 메모리를 검토하고 있다.
- 평소 핵심 사용자는 2~3명이고 최대 는 10~20명이다.
- 사내 규정과 자료 관리, 분석과 판단 업무가 주된 용도다.
- 현재 후보는 이며 그래픽카드 8장까지 확장할 수 있다.
- 모델별 속도와 비용 비교 또는 최종 결정은 아직 없다.