맥 미니로 로컬 코딩 AI를 돌릴 때 따져볼 하드웨어 조건
목표는 인터넷 서비스에 맡기지 않고 로 정해진 형식의 코딩 보조 작업을 처리하는 것이다. 예시는 C++11로 클래스를 만들고, 객체 추가·삭제·조회 기능을 넣으며, 복사와 이동 생성자는 막는 작업이다. 의 poolside/laguna-xs-2.1 무료 모델에서는 이런 요청에 쓸 만한 결과가 나왔다.
하지만 그 모델의 크기를 알기 어려워서 실제로 어느 정도의 VRAM이 필요한지 판단하기 어렵다. 현재 보유한 장비는 16GB VRAM이 있는 6800XT 그래픽카드와 32GB 메모리를 갖춘 게임용 PC지만, 본체가 너무 커서 맥 미니나 비슷한 작은 장비를 고려하고 있다. 업무 성격상 AI를 폭넓게 쓰기는 어렵지만, 반복적이고 지루한 코딩 보조에는 시간이 줄어드는 효과가 있어 무시하기 어렵다는 판단이다.
구매 지역은 영국이다.
핵심 포인트
- 로컬에서 코딩 보조용 을 돌릴 하드웨어를 찾고 있다.
- 기준 작업은 C++11로 클래스를 만드는 식의 구조화된 이다.
- 의 poolside/laguna-xs-2.1 무료 모델 결과는 만족스러웠지만 모델 크기와 VRAM 요구량은 불명확하다.
- 현재 장비는 16GB VRAM의 6800XT와 32GB 메모리를 갖춘 큰 게임용 PC다.
- 작고 실용적인 대안으로 맥 미니나 비슷한 장비를 고려하고 있다.