開発・企業向け・安全性

GLM-5.3 Workers AIモデルにおけるリクエスト間KVキャッシュ露出とSGLangによる修復

原題: Cross-request KV cache exposure in the GLM-5.3 Workers AI model, and our remediation with SGLang

重要RCA・恒久対策Cloudflare Workers AI

155件の応答に別顧客のデータが混入

Cloudflareは2026年10月26日、Workers AIのGLM-5.3で発生したテナント分離の不具合について、根本原因と恒久対策を公表しました。

影響期間は8月27日から9月9日で、同じモデルへ直前に送られた別顧客のリクエスト内容が応答へ混入する場合がありました。

Cloudflareが確認した影響は155件の応答で、いずれも681,280トークンを超える長いプロンプトでした。

Cloudflareは、研究者と自社のテストを除いた利用状況から、意図的に悪用された証拠は見つからなかったと説明しています。

原因の一つは、GLM-5.3のコンテキスト長が1,048,576トークンである一方、prefill GPUのKVキャッシュプールが681,280トークン分しかなかった構成です。

もう一つはSGLangの不具合で、処理できない長さのリクエストが正しく終了せず、decode側が以前のリクエストのKVページを読み取っていました。

Cloudflareは9月9日にモデルを非公開化し、KVプールを約204万トークンへ拡大したうえで、拒否対象のリクエストをKV転送前に終了する修正を適用しました。

修正後は研究者の再現スクリプトとcanary markerテストで確認し、同日中にGLM-5.3の公開提供を再開しました。

他のWorkers AIモデルはKVプールがコンテキスト長より大きく、同じ経路の影響を受けなかったとしています。

SGLang側では関連修正がv0.5.20以降へ入り、Cloudflareは分散構成の運用者にv0.5.22以降への更新または修正のbackportを推奨しています。

Cloudflareは全SGLang配備へ同じ修正と構成検査を展開し、転送チェックサム、canary、監視と負荷テストも強化しました。

今回の記事は単なる障害解消報告ではなく、顧客データの混入、公式RCA、恒久対策、他運用者向け更新判断を含むため掲載対象としました。

原文

← 日次まとめへ戻る