KoboldCpp 1.116, 로컬 AI 에이전트 실행 기능 강화

1.116 계열은 개인 컴퓨터에서 AI 모델을 돌리는 사람에게 유용한 업데이트다. 내장된 웹 화면이 를 지원해, 로컬 모델을 외부 도구와 연결하는 에이전트 실험이 쉬워졌다.

도구 호출 응답을 먼저 의 Jinja 방식으로 해석하도록 바뀌어, 새 도구 호출 모델을 처음 설정할 때 맞물릴 가능성이 커졌다. Qwen과 Gemma 보조 MTP의 속도 문제가 고쳐져, 초안 모델을 함께 쓰는 빠른 생성 방식이 더 쓸 만해졌다.

xet 다운로드 속도 저하와 일부 SSL 다운로드 문제도 고쳤고, 스트리밍을 끈 상태에서 추론 내용이 보이지 않던 문제도 수정됐다. 이미지 생성 쪽에서는 Krea 2 Turbo, 4, Boogu Edit 지원이 추가됐고, 이미지 생성 프롬프트 길이 제한은 3000자로 늘었다.

핵심 포인트

  • 내장 웹 화면에 지원이 추가됐다.
  • 도구 호출 응답 해석 방식이 개선되어 새 모델과의 기본 호환성이 나아질 수 있다.
  • Qwen과 Gemma 보조 MTP 속도 문제가 고쳐졌다.
  • xet 다운로드 속도 저하와 SSL 다운로드 문제가 수정됐다.
  • 3종 지원과 3000자 프롬프트 제한이 추가됐다.
원문 보기