Lemonade v10.8, 로컬 AI 모델의 메모리와 클라우드 사용을 자동화
Lemonade v10.8은 로컬 컴퓨터에서 AI 모델을 더 쉽게 돌리도록 만든 업데이트다. 20명이 7일 동안 참여한 릴리스로, 쓰지 않는 모델을 자동으로 내리고 크기를 줄여 를 즉시 되찾는다. 계속 빠르게 준비해 두고 싶은 모델은 고정할 수 있어 자동으로 내려가지 않는다.
모델마다 필요한 문맥 길이도 사용자가 손으로 맞추지 않아도 되며, Lemonade가 남은 메모리와 모델 구조를 보고 자동으로 정한다. 더 큰 모델이 필요할 때는 , , Together, OpenAI 같은 제공자로 작업을 넘길 수 있다. 이 는 로컬 모델 옆에서 선택적으로 쓰는 방식이며, 기본값은 로컬 실행이다.
LMX-Omni는 이미지 생성에서 크기와 단계 수 같은 설정을 더 많이 제공하고, 에서 맞춤형 Omni 모델을 가져오거나 공유할 수 있다. 로컬 모델을 MCP 도구처럼 부를 수 있는 길도 열려, 다른 앱이나 에이전트가 로컬 모델을 도구로 연결하기 쉬워진다.
핵심 포인트
- 쓰지 않는 로컬 모델을 자동으로 내리고 메모리를 회수한다.
- 원하는 모델은 고정해 두어 계속 빠르게 쓸 수 있다.
- 문맥 길이를 사용자가 직접 맞추지 않아도 된다.
- 큰 모델이 필요할 때 제공자로 할 수 있다.
- 로컬 모델을 MCP 도구처럼 연결할 수 있어 에이전트 구성에 도움이 된다.