vLLM v0.32.0を公開

API、モデル対応、既定の安全設定を更新

vLLMは2026年10月18日15時50分（日本時間）、v0.32.0を正式版として公開しました。

構造化された状態から選択、棄却、採点の答えを返すPOST /v1/systemoneを追加し、既定で配信できるようにしました。

チェックポイントのresponse_templateを読むHugging Face汎用ツール・推論パーサーを、PythonとRustの両フロントエンドへ追加しました。

EmbeddingGemma 2、MiniCPM-V 4.7、Nemotron 3.5 ASRの新規モデル対応と、Transformersバックエンドの動画入力対応を含みます。

Qwen、DeepSeek V4／V4.1、GLM-5.3、Kimi-K3、MiniMax-M3などの推論処理とモデル互換性も更新しました。

接続を最も負荷の低いAPIワーカーへ割り当てる処理、事前コンパイル済みカーネルの導入、起動時の自動調整結果の再利用を追加しました。

セキュリティ面では、既定のCORS許可元をワイルドカードから無許可へ変更し、ブラウザーから接続する場合は--allowed-originsの指定が必要になりました。

チャットテンプレート、トークナイザー、P2P ZMQ、画像形式、共有メモリーのハンドル、深いJSON Schemaに関する保護と修正も含みます。

Python 3.10のサポートを終了し、Python 3.11以降、transformers>=5.16.1、tokenizers>=0.23.2が必要です。

PyPI、CUDA、ROCm、CPU、XPU向けのwheelとDockerイメージが公開されており、利用者は破壊的変更と新しい既定値を確認して更新する必要があります。

原文

• vLLM: v0.32.0