맥 미니에서 로컬 인공지능 작업을 돌리는 데 맞는 앱
uAI Solo는 인터넷 계정 없이 자기 컴퓨터에서 을 돌리는 오픈소스 이다. 일반 대화만 하는 앱이 아니라, 여러 작은 인공지능 역할을 묶은 ‘크루’가 문서 요약이나 초안 작성 같은 일을 순서대로 또는 동시에 처리한다. 사용자는 자기 노트나 문서 폴더를 연결하고, 그 자료를 바탕으로 요약과 글 초안을 만들 수 있다.
폴더 안 자료를 찾아 근거를 붙이는 RAG 기능도 있다. 텔레그램, 디스코드, 레딧 채널을 지켜보다가 답장 초안을 만들 수 있지만, 실제 전송은 사용자가 승인해야 한다. 모델을 내려받은 뒤에는 오프라인으로 작동하고, 계정이나 사용 기록 수집도 없다.
내부적으로 를 쓰며, , CUDA, 같은 GPU 가속을 자동으로 찾고 안 되면 CPU로 돌아간다. M 시리즈 맥에서는 빠르게 돈다고 소개되며, 0.5B부터 70B까지 41개 을 한 번에 고를 수 있는 모델 허브가 들어 있다.
핵심 포인트
- uAI Solo는 계정 없이 로컬에서 실행되는 오픈소스 이다.
- 여러 인공지능 역할을 ‘크루’로 묶어 순차 실행이나 을 할 수 있다.
- 내 문서 폴더를 연결해 요약, 초안 작성, 근거가 있는 자료 검색을 처리한다.
- 텔레그램, 디스코드, 레딧 답장 초안을 만들 수 있지만 승인 전에는 보내지 않는다.
- M 시리즈 맥에서 기반 GPU 가속을 쓰며, 41개 을 선택할 수 있다.