モデル・開発
Ollama v0.40.9を公開
原題: v0.40.9
概要
Ollamaはv0.40.9を正式版として公開しました。
Apple Silicon上でPhononを使った音声生成に対応しました。
ollama runは、入力した文章またはchat modelの応答を生成中から音声再生できます。
アプリケーションはOpenAI互換の/v1/audio/speech endpointから音声をstreamingできます。
vLLM Semantic Routerのdecision modelをOllamaで使うd3 familyを追加しました。
d3はテキスト、structured state、画像を入力し、分類、yes/no判定、候補の確率付きscoreを返します。
モデルサイズは2B、4B、9B、27Bを用意しています。
FlintはmacOSに加えてLinuxとWindowsでも実行可能になりました。
OpenAI ResponsesとAnthropic Messagesのstreamingでは、部分出力後の生成失敗を無言で終了せず報告します。
ollama launchのcontext length・capability伝達と、Anthropic互換web searchのthinking設定も修正しました。