맥미니 서버로는 어려운 고성능 로컬 AI 구성 사례
현재 구성은 Aorus Elite X570 메인보드, R9 5950X, , 메모리 64GB, 2TB SSD, 1200W 전원공급장치다. 이 PC는 네트워크 안의 외부 미니 PC에서 움직이는 에이전트를 제어하는 Ollama 서버로 쓰인다. 영상 생성에는 를 쓰며, LTX 2.3 base BF16 모델, ed LoRA, Gemma 3 텍스트 인코더 조합으로 1440p 영상을 만든다.
현재는 VRAM 부족으로 작업이 멈추기 전까지 약 7~9초 분량을 만들 수 있다. 업그레이드 계획은 RTX 5060 Ti 16GB를 추가해 전체 VRAM 여유를 늘리는 것이다. 모니터를 5060 Ti에 연결하면 윈도우가 보통 차지하는 약 2GB VRAM 부담을 5090에서 덜 수 있다.
Ollama에서는 5090과 5060 Ti를 함께 써서 Q4, 192K 컨텍스트 구성에서 Q8, 256K 컨텍스트 구성으로 올리는 구상을 하고 있다. 예상 속도는 기존 5090 단독 Q4 구성보다 10~15% 느려지지만, 품질과 를 얻는 쪽이다.
핵심 포인트
- 현재 단독으로 1440p 영상 생성은 약 7~9초 분량에서 VRAM 한계에 닿는다.
- 추가 후보는 RTX 5060 Ti 16GB이며, 목적은 속도보다 VRAM 여유 확보다.
- 모니터를 보조 그래픽카드에 연결해 윈도우가 쓰는 약 2GB VRAM을 5090에서 아끼려는 계획이다.
- Ollama에서는 를 Q4 192K 컨텍스트에서 Q8 256K 컨텍스트로 올리고 싶어 한다.
- 예상 성능은 10~15% 느려지지만 품질과 를 얻는 선택이다.