開発・企業向け
Model Armorにテンプレート固有の除外ルール
原題: Template-specific exclusion rules are available in Preview
既知の誤検知を辞書と正規表現で抑制
Google Cloudは2026年9月28日、Model Armorでテンプレート固有の除外ルールをプレビュー提供しました。
Model Armorは、生成AIへの入力と出力を検査する安全・セキュリティ機能です。
新機能では、単語やフレーズの一覧を辞書ルールとして登録できます。
正規表現を使い、組織やアプリケーションに固有の既知パターンも指定できます。
対象はプロンプトインジェクションとジェイルブレイクの検知です。
Responsible AIフィルターの誤検知にも適用できます。
ルールはModel Armorのテンプレート単位で設定します。
業務上正当な語句を一律に遮断せず、利用環境に合わせて検査結果を調整できます。
除外範囲を広げると検知を弱める可能性があるため、限定的な条件と監査を組み合わせる必要があります。
プレビュー機能のため、対応地域と提供条件は公式ドキュメントで確認が必要です。