vLLM 야간판, Qwen3용 스트리밍 파서 추가
vLLM 야간판에 Qwen3 계열 모델을 위한 새 가 들어갔다. 이 파서는 가 답변 도중 멈추는 문제를 줄이는 것으로 보인다. 또한 응답 조각이 나뉘는 경계 때문에 이 실패하던 문제도 고치는 방향이다.
답변 중간 멈춤은 모델을 에이전트처럼 쓰면서 여러 단계 작업을 맡길 때 특히 방해가 된다. 제한적인 저녁 테스트에서는 같은 멈춤 현상이 다시 보이지 않았다.
핵심 포인트
- vLLM 야간판에 Qwen3용 새 가 추가됐다.
- 가 답변 도중 멈추는 문제가 줄어든 것으로 보인다.
- 응답 조각 경계 때문에 이 실패하던 문제도 개선 대상이다.
- 에서는 중간 멈춤과 도구 호출 실패가 재시도 비용을 만든다.
- 아직 제한적 테스트 결과이므로 실제 운영 전 확인이 필요하다.