モデル・開発

llama.cpp v0.9.0を公開

FP8、複数sequence推論、4つの新model構成、音声生成・文字起こし、multi-node実行を追加しました。

重要正式版ローカルAI

推論形式、モデル、音声、backendを一括更新

llama.cpp v0.9.0が日本時間2026年11月4日22時8分、正式版として公開されました。

OCP FP8 E4M3のtensor typeと変換機能を追加し、FP8量子化モデルを扱えるようにしました。

新しいflash_attn_ext_rowsにより、複数sequence推論でunified KV cacheを効率化します。

Clover-35B-A3B-Preview、Limite 1B Violetto、Metis-1.6、Mistral Large 4のmodel architectureを追加しました。

Chatterbox TTS、Nemotron 3.5 Transcribe、Pocket TTSの定義済みvoiceへ対応し、server APIからvoice名を選べます。

Nemotron 3.5 Transcribeは40言語のoffline transcription、prompt context、speaker attributionを扱います。

Gemma 4 E2B・E4Bのprefillを最適化し、LFM3ではNVFP4 GGUF、tensor split、audio codec decoder量子化を追加しました。

同梱するggml v0.29.0はNCCLを使うmulti-node tensor parallelismと、CPU・CUDA・Metal・Vulkanなどの性能更新を含みます。

OpenAI互換の/v1/responsesはseedやmin_pなど追加parameterを変換後のrequestへ統合します。

GitHub Release APIでdraft=false、prerelease=falseを確認し、nightly buildとは区別した正式版です。