モデル・開発
BaiduがERNIE 5.5 Flash Baseのウェイトを公開
原題: ERNIE-5.5-Flash-Base
280B MoEの事前学習checkpointを2精度で配布
Baiduは2026年11月5日、ERNIE 5.5 Flash BaseのモデルウェイトをHugging FaceとModelScopeで公開しました。
総パラメータ数は2800億、tokenごとの活性パラメータ数は140億のsparse Mixture-of-Expertsモデルです。
公開物は事前学習終了時点のbase checkpointで、instruction tuningやchat向けの事後学習前です。
FP8版とBF16版をsafetensors形式で配布しています。
FP8版のHugging Face repositoryでは128分割のweight fileを実際に確認できます。
最大学習contextは128K tokenで、fine-tuningと推論では最大100万tokenを設定できます。
repository規模のcode、長文理解、知識、推論、数学、多言語を事前学習の対象にしています。
SGLangとvLLM向けの実行手順をmodel cardで公開し、OpenAI互換のcompletions endpointから利用できます。
利用条件は独自のERNIE 5.5 Flash Base Model License Agreement v1.0で、ApacheやMITではありません。
model cardに掲載された他モデルとのbenchmark比較はBaiduの統一評価pipelineによる提供元評価です。