通常ニュース
業界各社、AIの安全性とセキュリティに向けOpen Secure AI Allianceを結成
原題: Industry Leaders Unite in Open Secure AI Alliance for AI Safety and Security
発表内容
NVIDIAは、AIの安全性とセキュリティに使うオープンな技術、手法、ツールを共同開発するOpen Secure AI Allianceの結成を発表しました。
同連合は、Linux FoundationのAkritesイニシアチブとOpenSSFコミュニティの活動を基盤とします。
脆弱性の修復と開示を、調査・変更・配備が可能なオープン技術で支えることを目的としています。
参加企業・団体にはNVIDIA、Adobe、Cisco、Cloudflare、GitHub、Hugging Face、IBM、Linux Foundation、Microsoft、Mistral、Red Hat、Salesforce、SAP、ServiceNow、Siemens、vLLMなどが含まれます。
NVIDIAは、AIエージェントの安全性にはモデルだけでなく、ID、権限、実行基盤、ガードレール、ログ、評価を含む全体の制御が必要だと説明しています。
オープンモデルが悪用されるリスクも認めたうえで、強い安全策、悪用禁止ルール、評価、迅速な修復と組み合わせる方針を示しました。
公開された技術
NVIDIAは、オープンモデル、モデルウェイト、データ、エージェント実行基盤の研究を同連合へ提供します。
新たにNVIDIA Labs Object-Oriented Agent（NOOA）研究フレームワークをGitHubで公開しました。
NOOAは、エージェント実行基盤とモデルの統合を改善し、動作のテスト、追跡、監査、統治をしやすくすることを目的としています。
参加組織は、ゼロトラストID、隔離、安全なモデル形式、複数モデルによるスキャン、安全なコーディング作業などを含む防御基盤を構築するとしています。
発表は連合の結成と初期技術の公開であり、完成した共通製品の一般提供を示すものではありません。