AI安全性・アラインメント

主要ニュース

1. 1

   Microsoftが人工知能搭載型のサイバーセキュリティツールを発表

   Microsoftは、組織が脅威を検出し対応するために設計された人工知能搭載型のサイバーセキュリティツールスイートを発表した。 サイバーセキュリティの脅威はますます高度化しており、人工知能は手動の方法だけでは対応できない速度で攻撃を特定し防御することを組織に可能にする。

   利用可能性の詳細、価格設定、およびこれらの新しいAIセキュリティ機能を統合するMicrosoft製品がどれになるか。

2. 2

   マイクロソフト、AI駆動の脅威に対応するエージェント型セキュリティシステム「Project Perception」を発表

   マイクロソフトが新たなセキュリティシステム「Project Perception」を発表した。AI エージェントを活用して脅威を継続的に検出、評価、対抗するもので、機械速度での対応が可能。8月3日にパブリックプレビューに入り、赤チーム（攻撃経路の特定）、青チーム（リスク評価）、緑チーム（是正措置）の3つの専門エージェントクラスを統合した閉鎖ループ防御システムとして機能する。 人間の速度での攻撃に対応するよう設計された従来のセキュリティアプローチは、AI駆動の脅威がもたらす高速なエクスプロイト生成と前例のない効率に追いつくことができない。Project Perception は単一モデルに依存するのではなく、特定のセキュリティタスクに特化したAIモデルを適用することで対処する。ソフトウェア脆弱性管理においてCyberGym（業界有数のベンチマーク）で96%を達成し、現在市場で利用されている構成と比べてほぼ50%のコスト削減を実現している。

   同システムは各タスクに最適なAIモデルを選択するマルチモデルアーキテクチャを採用し、品質とコストを最適化している。マイクロソフトの専門モデル MAI-Cyber-1-Flash は、ソフトウェア脆弱性マルチモデルエージェント団「MDASH」に統合され、CyberGym で Mythos を12ポイント上回る成績を記録。同社はこのモデルの使用をソフトウェア脆弱性管理以外の追加セキュリティワークフローに拡大する計画。

3. 3

   AI バブルが破裂する中、Apple は利益を得る立場にあると批評家 Ed Zitron が主張

   AI 経済の長年の懐疑派である Ed Zitron は、大規模言語モデル産業が根本的に利益を生み出さないと主張している。OpenAI は 2025 年に 130 億ドルの収益に対して 209 億ドルの赤字を計上した。また、最近のハードウェア価格上昇を招いているデータセンター建設は決してリターンを生み出さないと述べている。メモリ価格は今年ほぼ 2 倍に跳ね上がり、Mac、iPad、そして間もなく iPhone のコスト増加につながっている。 ハイパースケーラーは 2022 年以来、1 兆ドルを超える設備投資を行っており、今年だけで 6,500 億ドル以上が AI インフラに充てられている。バブルが崩壊すれば、年金基金、半導体メーカー、台湾・韓国のサプライヤーに波及するだろう。しかし Apple は約 140 億ドルしか支出しておらず、AI を Google にアウトソース（Gemini に年約 10 億ドルを支払う）しているため、ダメージを回避する立場にある。一方、消費者はすでにハードウェア価格の上昇を通じてその代償を負担している。

   Zitron は Apple が「傍観して全てが燃え尽きるのを見守る」一方で、企業評価が暴落する中での買収の機会があると予測している。また、同氏は Apple Vision Pro を同社のより有望な長期的賭けとして強調しているが、デバイスは発売が早すぎ、現在は適切に機能するために完全なウェアタイム更新を必要としていると指摘している。

4. 4

   Nvidiaが主導するAIセーフティ同盟、OpenAIへのサイバー攻撃がモデルの脆弱性を露呈

   Nvidia、Microsoft、SpaceX、Palantirおよび米国と欧州の他の数十社のテック企業が月曜日に、オープンAIツールの構築と共有に焦点を当てたOpen Secure AI Allianceを立ち上げた。この取り組みは先週Hugging Faceへのサイバー攻撃によって促進されたもので、その攻撃では悪質なOpenAIモデルがスタートアップの防御を突破し、Hugging Faceは同じセキュリティガードレールに縛られない中国の自社ホスト型オープンウェイトモデルに頼ることになった。 この事件は、米国の主要なフロンティアモデルが攻撃者と防御者を区別できないガードレールを備えていたことを明らかにし、企業が自己防衛のためにそれらを使用できなくなった。Nvidiaは、「防御者が独自のインフラストラクチャで高度なAIを検査、適応、実行できない場合、速度が最も重要な時点でそれらの対応能力が制約される」として、同盟が必要であると位置付けた。ダウンロード、修正、自己ホストが可能なオープンモデルは、クローズドシステムが提供できない回避策を提供する。

   米国の政策立案者は、「蒸留」攻撃（より良く訓練されたモデルから知識を抽出すること）への懸念から、中国のAIモデルに対する規制を検討している。財務長官Scott Bessent先週、そのような攻撃を行う中国企業への制裁を脅した。しかし、最も能力のあるオープンソースモデルは中国企業によって構築されており、緊張を生み出している。Nvidiaおよび20社以上の企業が最近、「過度に早い規制」が「競争を抑制またはイノベーションを海外に追いやる」ことになると政策立案者に警告した。

5. 5

   テック大手がサイバーセキュリティ向けオープンセキュアAIアライアンスを設立

   NVIDIA、Microsoft、IBM、Hugging Faceおよび他の業界大手36社が、AI セキュリティとソフトウェアエージェントの保護に向けたオープンテクノロジー、技術、ツールの開発と共有を目的とするOpen Secure AI Allianceを立ち上げた。このアライアンスはLinux FoundationのAkrites イニシアティブとOpenSSFコミュニティの脆弱性の修復と開示に関する取り組みに基づいている。 アライアンスは、オープンAIモデルとツールがサイバーセキュリティ防御者にとって不可欠だと主張している。防御機能を民主化し、透明性を高め、データを保護しながらサイバー防御を可能にし、重要産業が少数のクローズドプロバイダーに依存するのではなく、マルチベンダーエコシステム全体でセキュリティシステムを構築できるようになるからだ。最近のHugging Faceのセキュリティインシデントはこの点を実証した。クローズドAIツールが侵入時のフォレンジック分析をブロックした際、Hugging FaceはオープンウェイトのGLM 5.2モデルを自社インフラで実行して1万7000件以上のアクションを分析し、侵害を食い止めることができた。これはクローズドシステムのみに頼ることを強いられていた場合には不可能だった機能である。

   アライアンスはGitHub上のNVIDIAのオープンソースNOOA（Object-Oriented Agent）プロジェクト（エージェントハーネス向け）、Hugging FaceのSafetensors形式（透明なAIモデルウェイト向け）、HPEのSPIFFE/SPIRE ゼロトラストアイデンティティフレームワーク、MicrosoftのMDASHマルチモデルスキャンハーネス、SpaceXAIのオープンソース化されたGrok Build ターミナルベースAIコーディングエージェントおよびGrokシリーズモデルのウェイトのオープンソース化計画など、具体的な成果物をリリースしている。