Godot 안에서 외부 서버 없이 Gemma 4를 직접 실행한 실험
.7 게임 엔진 안에서 언어 모델을 로컬로 실행하는 데 성공했다. , 파이썬, 외부 서버, GD은 사용하지 않았다.
gemma-4-E2B-it-Q4_K_M.gguf 한 가지 모델만 지원하며, 모델 계산은 가 맡는다. 는 모델 파일 불러오기, 토큰화, 답변 선택, KV 캐시 관리, 채팅 화면을 처리한다.
현재는 가능성을 확인한 실험 단계이며, CUDA를 이용하는 보다 약 10배 느리다. 코드는 godot-llm 저장소에 오픈소스로 공개됐다.
핵심 포인트
- .7 안에서 를 로컬로 실행한다.
- 파이썬, 외부 서버, , GD이 필요 없다.
- 가 모델 계산을 처리한다.
- 현재는 지정된 한 가지 만 지원한다.
- CUDA 기반 보다 약 10배 느리다.