モデル・開発

openPangu-2.0の事前学習・SFT・RLコードを公開

昇騰NPU向けモデルの公開範囲を、ウェイトと推論から学習工程へ拡大しました。

重要オープンソースApache 2.0

学習工程を2つのリポジトリで公開

Huawei系のAscend Tribeは2026年9月28日、openPangu-2.0向けの事前学習・SFTコードと、後学習用の強化学習コードを公開しました。

6月と7月に公開されたopenPangu-2.0 Flash/Proのウェイトや推論コードとは異なり、今回はモデルを学習・調整する工程が対象です。

openPangu Training FrameworkはPyTorchとCANNを基盤に、大規模言語モデル、視覚言語モデル、マルチモーダル基盤モデルの事前学習、継続学習、SFTを扱います。

多次元分散並列、高効率なデータ処理、混合精度、NPU向け演算最適化、チェックポイントからの再開、高可用な復旧を備え、数百億から1兆パラメータ規模を想定しています。

openPangu-2.0-RLはVERLを中核に、Actor、Rollout、Rewardの協調、多ターンのエージェント学習、報酬処理、昇騰NPU向け最適化を提供します。

昇騰環境で再学習・後学習を検証可能に

開発者は公開済みウェイトを推論するだけでなく、openPangu系モデルの事前学習、指示調整、強化学習を昇騰環境で参照・拡張できるようになります。

TrainingとRLの両リポジトリは公開時点でApache License 2.0を掲げています。

一方、コードはPyTorchだけで完結する汎用学習環境ではなく、CANNと昇騰NPUを前提にした構成です。導入前に対応ハードウェア、ソフトウェア版、分散構成を確認する必要があります。

今回の公開は新モデルや追加ウェイトではありません。openPangu-2.0の既存モデル群を再現・調整するための学習経路を追加した更新です。

性能値の新しい独立評価は示されておらず、記事ではコードの提供状態だけを評価対象としています。

原文

← 日次まとめへ戻る