モデル・開発

NVIDIA Nemotron 3.5 Bolt E4B 4GBを公開

原題: NVIDIA Nemotron 3.5 Bolt E4B 4GB

重要オープンウェイトNVIDIA

概要

NVIDIAは2026年10月23日、ローカル会話エージェント向けの小型言語モデル「Nemotron 3.5 Bolt E4B 4GB」を公開しました。

10月15日の予告時点では10月23日提供予定でしたが、今回、Hugging Faceへモデル本体と量子化版のウェイトが公開されました。

Gemma 4 E4Bを基にNVIDIAが追加学習し、全8B・実効4Bパラメータ、最大64Kトークンの入出力に対応します。

複数ターンのツール利用、簡潔な音声向け応答を促す会話モード、推論の有効・無効と推論量の調整を備えます。

英語、日本語、中国語を含む35言語を対象とし、端末・音声アシスタント、対話キャラクター、ロボットや産業機器のインターフェースを想定しています。

BF16版はvLLM、約4GBを目標とするQ4_K_MのGGUF版はllama.cpp向けとして公開されました。

推測デコード用のDFlash drafterも案内され、会話の応答開始と生成速度を優先する構成を選べます。

ライセンスはOpenMDW 1.1で、モデルカードは商用・非商用の利用に対応すると説明しています。

ウェイト、設定、chat template、安全性・プライバシー資料、技術レポートへのリンクを公開しており、利用者は自社環境へ取得して実行できます。

品質、速度、メモリ使用量、他モデルとの比較値はNVIDIA自身の評価であり、独立評価とは区別されます。