モデル・開発
Granite Switch 4.1のGGUF量子化モデルを公開
8B・30Bの公式GGUFウェイトをllama.cpp向けに配布しました。
8Bと30Bを複数量子化で配布
IBMは2026年10月23日07時00分JST、Granite Switch 4.1の公式GGUFモデルを公開しました。
対象はGranite Switch 4.1 8Bと30Bの2モデルです。
8B版はQ2_K、Q3_K、Q4、Q5、Q6_K、Q8_0とBF16を配布します。
30B版も同じ量子化範囲を用意し、BF16は2分割ファイルで配布します。
モデルカードはllama.cpp向けのGGUF変換モデルであることを明記しています。
各repositoryには量子化済みウェイト、BF16ウェイト、metadata、署名ファイルが含まれます。
ライセンスは元モデルと同じApache 2.0です。
元のGranite Switch 4.1はchat、decision、safety、音声認識のadapterを1つのcheckpointで切り替えるモデルです。
10月16日の元モデル公開後、利用者が用途に合う量子化を選んでGGUF対応環境へ導入できる配布状態へ変わりました。
モデルカードには独立した性能比較はなく、今回は新しい配布形式とウェイト公開を確認したものです。