여러 대의 PC를 묶어 큰 로컬 LLM을 돌리는 P2P 네트워크, DaiHive
DaiHive(daihive.eu)는 여러 컴퓨터를 연결해 하나의 큰 을 나눠 돌리는 (개인 간 직접 연결) 입니다. 성능 좋은 컴퓨터 한 대가 없어도, 모델을 여러 조각으로 나눠 에 있는 여러 컴퓨터(워커)에 분산시켜 실행하고, 사용자는 평소처럼 만 입력하면 됩니다. 공개 풀만 쓰는 게 아니라, 예를 들어 사무실에 있는 PC 10대처럼 원하는 컴퓨터들만 모아 팀 전용 격리 를 따로 구성할 수도 있습니다.
현재는 베타 단계로 워커 프로그램과 UI가 자주 업데이트되고 있고, 지원되는 모델 종류는 아직 제한적이지만 실제로 작동하는 상태입니다. 개발자는 초기 와 워커/UI에 대한 , 다음에 어떤 모델을 우선 지원할지에 대한 의견을 구하고 있습니다.
핵심 포인트
- DaiHive는 여러 컴퓨터를 연결해 하나의 큰 을 분산 실행하는
- 공개 풀 외에 자체 PC들로만 구성한 팀 전용 격리 도 가능
- 아직 베타 단계, 지원 모델 종류가 제한적이지만 실제 작동은 확인됨
- 개발자가 초기 와 어떤 모델을 우선 지원할지에 대한 을 구하는 중