AI 모델 파일을 중앙 서비스 밖에 보관하자는 논의
은 같은 중앙 저장소에 많이 모여 있어, 접근 제한이나 삭제가 생기면 개인 개발자와 작은 팀이 영향을 받을 수 있다. 그래서 모델 파일을 토렌트, , cope, ModelRegistry 같은 다른 경로에도 나눠 보관하자는 의견이 나온다.
핵심은 모델 파일을 여러 사람이 가진 상태로 두고, 파일이 바뀌지 않았는지 확인할 체크섬과 믿을 수 있는 출처 표시를 함께 갖추는 것이다. 일부는 추론에 바로 쓰는 작은 형식만 모으지 말고, 나중에 다시 변환하거나 연구에 쓸 수 있는 더 원본에 가까운 형식도 저장해야 한다고 본다.
다른 쪽에서는 큰 모델을 개인 장비에서 돌리기 어렵고, 앞으로는 하나의 거대한 모델보다 여러 작은 전문 모델을 조합하는 방식이 더 현실적이라고 본다. 하드웨어 가격, 메모리와 그래픽카드 공급, 지역별 다운로드 제한도 개인이 로컬 AI를 쓰는 비용에 직접 영향을 준다는 점이 함께 언급된다.
핵심 포인트
- 같은 중앙 저장소에만 의존하면 접근 제한이나 삭제에 취약할 수 있다.
- 토렌트나 같은 분산 저장 방식이 모델 백업 대안으로 거론된다.
- 체크섬과 믿을 수 있는 출처가 없으면 모델 파일이 변조됐는지 확인하기 어렵다.
- 비용 절감에는 큰 모델 하나보다 작은 전문 모델 여러 개가 더 현실적일 수 있다.
- 로컬 추론은 을 줄일 수 있지만, 메모리와 그래픽카드 가격이 실제 한계를 만든다.