4B 이하 모델로 돌리는 오픈소스 AI 캐릭터 챗봇
Aiko는 기억을 유지하고, 이미지를 보고, 음성으로 듣고 말하며, 간단한 도구 호출로 웹 검색까지 하는 AI 애니메이션 캐릭터 챗봇이다. 애니메이션도 포함되어 있다. 모든 모델은 4B 이하의 작은 모델이라 집에 있는 개인용 컴퓨터에서도 실행할 수 있는 수준으로 설계됐다.
현재는 서버를 Modal 플랫폼에서 돌리는 방식으로 연결되어 있다. 코드는 무료 오픈소스로 공개되어 있지만, 지금 구조는 의 화면과 특정 Modal 엔드포인트에 맞춰져 있다. 일반 운영체제의 로컬 컴퓨터에서 실행하려면 일부 수정이 필요하다.
만든 목적에는 영어와 일본어를 모두 말할 수 있는 좋은 과 일본어 학습 보조가 포함된다. 기억 구조는 NVIDIA에 제출했던 자율 로봇 프로젝트의 시스템을 재사용했다.
핵심 포인트
- 기억, 시각 입력, 음성 입출력, 웹 검색, 기능을 포함한다.
- 모델 크기는 모두 4B 이하라 개인용 컴퓨터 실행을 염두에 둔 구성이다.
- 현재 실행 환경은 서버와 Modal 플랫폼에 연결되어 있다.
- 소스 코드는 오픈소스로 공개되어 자유롭게 수정할 수 있다.
- 맥미니 같은 로컬 컴퓨터에서 쓰려면 와 Modal 연결 부분을 고쳐야 한다.