開発・企業向け

Model ArmorでCSAMフィルターの有効化と信頼度を設定可能に

原題: Model Armor administrators can now enable or disable the CSAM filter in Model Armor templates and floor settings

重要Google Cloud安全管理

テンプレートと組織共通設定で検出範囲を調整

Google Cloudは2026年11月5日、Model ArmorのCSAMフィルターを管理者が有効化または無効化できる設定を追加しました。

Model Armorは生成AIへ送るプロンプトとモデルからの応答を検査し、設定に応じて結果を記録またはブロックします。

今回の設定はModel Armorテンプレートと、組織・フォルダ・プロジェクトに適用するfloor settingsの双方で利用できます。

管理者はCSAM検出の信頼度を「High」「Medium以上」「Low以上」から選択できます。

しきい値を下げるほど検出範囲は広がりますが、誤検出が増える可能性があります。

floor settingsではCSAMフィルターが初期状態で有効になり、信頼度はHighに設定されます。

テンプレートでも、対応リージョンまたはデータレジデンシー準拠を無効にした構成では初期状態が有効・Highです。

対応外リージョンでデータレジデンシー準拠を有効にしている場合、テンプレートのCSAMフィルターは初期状態で無効です。

この構成変更はModel Armor APIから行い、Google Cloudコンソールからは設定できません。

公式リリースノートは今回の変更をFeatureとして掲載しています。既存の除外ルールとは別の、CSAM検出の有効化としきい値を制御する実質的な更新です。