M2 16GB 맥을 집에서 LLM 서버로 쓰면 느릴 수 있다
M2 칩과 메모리를 가진 맥북 에어를 집 안의 LLM 서버로 쓰는 구성이 시도됐다. 요금제를 끊고, 집에 있는 미니 피시에서 이 맥에 연결해 호스팅된 LLM의 응답을 받아오는 방식이다.
연결 자체는 가능하지만 속도가 매우 느리고, 도 많이 제한된다. 핵심 고민은 집에서 가진 장비로 계속 버틸지, 아니면 월 20달러짜리 요금제로 돌아가는 편이 나은지다.
핵심 포인트
- M2 칩과 메모리 맥을 LLM 서버처럼 쓰는 실험이다.
- 집 안의 다른 미니 피시가 맥에 연결해 LLM 응답을 받아오는 구조다.
- 동작은 하지만 응답이 매우 느리다.
- 이 제한되어 에 답답함이 있다.
- 월 20달러 요금제가 더 합리적인지 비교하는 상황이다.