開発
LiteLLM v1.109.0を公開
原題: v1.109.0
routing、cache、deploymentに移行作業
LiteLLMは2026年11月11日、v1.109.0を正式公開しました。
982件のpull requestを含み、release noteは移行対応が必要な5項目を明示しています。
fallback先の文字列指定はmodel名のlistへ変更され、従来の単一文字列設定は見直しが必要です。
disk cache backendは削除され、localまたはredisへ切り替える必要があります。
deployment rate limitをhard capとして維持するには、pre-call checkの明示設定が必要になりました。
streaming responseが途中で切れた場合、fallback先が続きから回答を返すmid-stream continuationを追加しました。
LITELLM_OFFLINE_MODEでLiteLLM自身が行う外部fetchを一括停止できます。
Admin UIにはmodel hub、画像生成、利用指標を備えたChat UIを追加しました。
Gemini系のsampling parameter、Lens chart、deployment pricing sourceにも互換性変更があります。
利用者はrelease noteのaction requiredを確認してからproxyとSDKを更新する必要があります。