開発・モデル

SGLang v0.5.23を公開

原題: v0.5.23

重要正式版inference runtime

新モデルと大規模MoEの実行機能を拡張

SGLangは2026年11月3日7時14分頃（日本時間）、v0.5.23を正式公開しました。

Muse Spark Open、Beam-1.0、MiniMax-M3.1-Flash、MiniCPM-V 4.7などのmodelを追加しました。

FLUX.3 Image Klein、MOSS-Image、Cosmos3-Nano-Simなどのdiffusion modelにも対応します。

Paged ExpertsはGPU memoryを超えるMoE modelを単一のconsumer GPUで実行できます。

量子化したFP8とNVFP4のMoE modelへLoRA adapterを適用するengineを追加しました。

Google TPU7xではSGLang-TorchTPU pluginを通じて実行できます。

DeepSeek系MLA modelのprefix cacheをHiCacheのfile-based L3 storageへ保存できます。

DeepSeek-V4.1、GLM-5.3-Flashなどのprefillとdecodeを対象に複数の最適化を加えました。

性能値はSGLang提供元の測定であり、独立評価ではありません。

GitHub Releaseはdraft=false、prerelease=falseで、各platform向けDocker imageも公開されています。