開発
Ollama v0.34.1を公開
MLXモデル作成を正式化し、Apple Siliconのメモリ処理とモデル一覧APIを改善しました。
MLX作成を正式化し、typical_pを廃止予定へ
Ollamaは9月15日、v0.34.1を正式リリースしました。
MLXのsafetensorsからollama createでモデルを作成する機能は、実験扱いではなくなりました。
GGUFモデルを作成する場合は、safetensorsの変換と量子化にllama.cppのツールを使う必要があります。
Apple Siliconでは、MLXモデルのメモリ処理を改善しました。
出力の暴走を検出する反復トークンの基準を100回へ変更しました。
この変更により、OCRなど正当な反復を誤検出する可能性を下げます。
/api/tagsは大規模なモデルライブラリで高速化しました。
Ollamaの公式テストでは、cold状態の処理時間が3.1秒から294ミリ秒へ短縮しました。
モデル能力の返却方法も一貫するように修正しました。
typical_pは非推奨となり、新規モデル作成時には設定できませんが、既存GGUFモデルは引き続き対応します。