1비트 Bonsai 모델, 80억 매개변수를 약 1GB에 담다
Bonsai 80억 모델은 1비트 방식으로 크기를 약 1GB까지 줄이면서도 실제로 작동한다. 새로 나온 270억 모델도 약 5GB에 불과하다. 이런 작은 크기는 을 개인 기기에서 실행하거나 저장 공간과 을 줄이는 데 유리할 수 있다.
다만 품질, 실행 속도, 필요한 전용 도구가 제시되지 않아 이 널리 쓰일 단계인지는 아직 판단하기 어렵다. 가장 알맞은 활용처가 무엇인지도 현재 열린 문제다.
핵심 포인트
- Bonsai 80억 의 크기는 약 1GB다.
- Bonsai 270억 의 크기는 약 5GB다.
- 80억 모델은 작은 크기에서도 작동하는 것으로 제시됐다.
- 품질과 속도 자료가 없어 주된 활용처와 실용성은 아직 확정하기 어렵다.