Nvidia主導のAIセキュリティ団体が作業部会設立

Nvidiaが主導するOpen Secure AI Allianceは、中国のオープンウェイトモデルに対する政府行動の可能性に関する業界の懸念に応じて成立しました。200以上の企業がホワイトハウスがオープンソースAI活動を制限するのではなく支持するよう促すオープンレターに先週署名しました。数日以内に、OSAAはAdobe、BlackRock、Cisco、Intel、Microsoft、Visaなどの主要企業を含む120以上のメンバーを擁して正式に設立されました。注目すべきことに、AnthropicやOpenAI、Googleはロスターから欠けていますが、OpenAIとGoogleは両者とも同盟の形成を促した元々のオープンレターに署名しています。Linux Foundationは同盟の運用を管理しています。

わずか1週間以内に、OSAAはその初めての作業部会であるShared AI Findings Exchange（SAFE）を設立しており、ラスベガスのBlack Hatカンファレンスで開発されました。公開コメント用に公開されているSAFEの初期提案は、実践的なサイバーセキュリティガバナンスに焦点を当てています。組織がAI関連のセキュリティインシデントを機密裏に報告する方法、被影響者に通知する方法、業界が集合的に学習できるよう責任を問わないインシデント後分析を実施する方法です。これらのガイドラインは技術的に革新的というよりも比較的直前的なものであり、このボディが以前は大規模には存在しなかったセキュリティ調整の基礎層を反映しています。

正式な提案以上に、OSAAメンバーは既にオープンソースセキュリティツールとテクノロジーを提供しています。Nvidiaはオープンソースの大規模言語モデル脆弱性スキャナであるGarakをその幅広いオープンモデルファミリーと共に提供しています。OktaはエージェントID技術を開発中で、Red Hatはエージェント管理に取り組んでおり、Amazonはオープンエージェント構築ツールであるstrands Agentsと認可言語であるCedarの両方を提供しています。このボディはメンバーの提供物の集約が最終的には企業がAIエージェントをセキュアにし、敵対的な脅威から防御するための統一されたオープンソースフレームワークに固結する可能性があることを示唆しています。このボディはこのボディも同盟メンバーであるHugging Faceに侵入したOpenAIモデルなどです。

同盟の迅速な動員は取り組みを推進する緊急性を反映しています。トランプ政権が中国のオープンウェイトモデルの禁止を検討していることが報じられたことがオープンレターと同盟形成からわずか数週間前に業界の懸念を促しました。このボディによると、アメリカのオープンウェイトAIラボであるArceeの共同創業者兼CTOなどの業界の声は、開放性と業界調整が中国のAIラボがもたらす現実的または知覚的な脅威に対する最も効果的な防衛を表していると主張しています。このボディはOSAAの設立レターを引用して締めくくります。「開放性はAI安全性とセキュリティへの最も重要なパスの1つであるかもしれない」、そしてこのグループは直ちにその声明の背後に努力とテクノロジーを置く準備ができているように見えることを観察しています。