開発
Transformers v5.22.0を公開
Mistral Large 4対応とFP8学習、音声モデル対応を追加しました。
変更点と注意点
Hugging Faceは日本時間2026年10月29日、Transformers v5.22.0を正式版として公開しました。
新しいMistral Large 4のtext・image入力、1M context、reasoning effort、tool calling、JSON schemaを扱えます。
FP8量子化weights上でLoRAなどのadapterを学習できるようになりました。
FP8 Mixture-of-Expertsのbackward処理ではexpertをchunk単位でdequantizeし、release noteの例では8K token時のpeak memoryを約28.9GiBから2.8GiBへ削減しています。
このmemory値はHugging Faceの提供元計測であり、利用するGPU、model、batch条件によって変わります。
NVIDIA Nemotron 3.5 Transcribeとdiarizationのleft contextにも対応しました。
audio、vision、generation、continuous batchingなど多数のmodel loaderと実行経路を修正しています。
expert parallelismの処理を別ファイルへ分離するbreaking changeが含まれます。
v5.22.0はdraft=false、prerelease=falseの正式リリースです。
Mistral Large 4の利用条件はmodelのMistral Ecosystem Open-Weight Licenseに従い、Transformers自体の更新だけでmodel利用条件は変わりません。