AI安全性・アラインメント

主要ニュース

1. 1

   CrowdStrikeが自律型レッドチーム「SafeMind」発表

   CrowdStrike Holdings Inc.はラスベガスで開催されたFal.Con 2026基調講演でSafeMindを発表した。SafeMindは攻撃用のRed Tempestと防御用のBlue Solanoという2つのAIモデルで構成され、Nvidia Corp.のNemotronモデルを基に新設のCyber Superintelligence Labで開発された。 SafeMindは閉ループで動作する。Red TempestがNvidiaのシミュレーション技術内にある顧客環境のデジタルツインを攻撃経路について調査し、Blue Solanoが攻撃経路がなくなるまで修復を繰り返す。これにより、攻撃者が初期侵入から横展開までに要する時間である「ブレイクアウトタイム」を事実上ゼロにすることを目指す。CrowdStrikeのGeorge Kurtz氏はこの時間が実質ゼロに達したと述べている。国内のセキュリティ担当企業は、攻撃経路の事前遮断という新たな競争環境に直面する可能性がある。

   CrowdStrikeのGeorge Kurtz氏は、ブレイクアウトタイムが2分から72秒、さらに30秒へと短縮され、今や「完了した。単にランタイムだ」と語った。SafeMindはFalconプラットフォームにネイティブ統合され、単独利用はCrowdStrikeのProject QuiltWorksプログラムを通じて提供される。

2. 2

   CrowdStrike Falcon Guardian、AIセキュリティ対策で登場

   CrowdStrikeは、AIエージェントを保護するための主力ソリューション「Falcon Guardian」を発表した。これはAI検知・対応（AIDR）カテゴリに属するもので、一元管理を可能にする新しいAIゲートウェイ機能を備え、脅威ハンティングとMDRサービスをAIアプリケーションに拡張する。 Falcon Guardianは、AIエージェントの活動とエンドポイントのテレメトリを関連付け、プロンプトからランタイム動作までの因果関係を確立する。これにより、セキュリティチームはエージェントの行動を把握し、脅威を調査し、拡散する前に対応できるようになり、エンタープライズシステム内でAIエージェントが活動する際に求められる可視性と制御のニーズに対応する。

   AIゲートウェイは現在プレベータ版で、来四半期（第4四半期）に一般提供（GA）が予定されている。CrowdStrike Falcon Complete for Falcon Guardianは今四半期（第3四半期）後半に提供開始予定で、Falcon Adversary OverWatch Cross-Domainは本日から利用可能だ。

3. 3

   Palo Alto NetworksがAIエージェント向け「Authority-Aware DLP」を提案

   Palo Alto Networksは、手動アップロードのみを対象とする従来のデータ損失防止を超え、AIエージェント向けのセキュリティ戦略「Authority-Aware DLP」を推進している。このアプローチは、人間とAI、MCPを介したエージェントとツール、A2Aを介したエージェント間の3つのリスク層を対象とする。 従来のセキュリティでは、アプリが承認されていてもアカウントやデータ利用が承認されていないといった文脈を見落とす。AIエージェントはユーザーがファイルを手動でアップロードしなくても機密データを取得・共有できるため、セキュリティはエンドポイント、AIランタイム、ファイアウォールにわたるAIデータ経路に追随する必要がある。

   Palo Alto NetworksはPrisma Access、Prisma AIRS AI Runtime Security、次世代ファイアウォールを通じてこれを組み込む。同社はローカルエージェントのフットプリント監査と、隠れたMCPトラフィックの検査を提供する。

4. 4

   音楽出版社、Anthropicを歌詞の著作権侵害で提訴

   SonyやWarner系の音楽出版社がAnthropicに対し、歴史上最大級の知的財産権侵害にあたるとされる規模での著作権侵害を理由に訴訟を提起した。訴状では、Anthropicが海賊版の歌詞を入手し、ウェブから歌詞をスクレイピングしたと主張している。 この訴訟は、許可なく著作権で保護された素材をモデルの学習に使用する際にAI企業が直面する法的リスクを浮き彫りにしている。判決次第では、AI企業が既存の創作物をどう利用するかの前例となり、AI業界全体のデータ調達の進め方に影響を及ぼす可能性がある。

   この訴訟は、海賊版コンテンツの無断取得と歌詞の組織的なスクレイピングの両方を問題としており、裁判所がAnthropicに不利な判断を下した場合、同社は重大な法的・金銭的影響を受ける可能性がある。

5. 5

   NRIはAIを新興テクノロジーリスクの一部と位置付け

   野村総合研究所（NRI）は2026年8月28日に第413回メディアフォーラムを開催し、NRIセキュアテクノロジーズのグループマネージャーである木村拓巳氏が新興テクノロジーによるセキュリティリスクについて解説した。 木村氏は、AIは新興テクノロジー全体の中では一部に過ぎず、デジタルツイン、量子技術、バイオテクノロジー、ロボティクス、脳・機械インターフェース（BMI）も社会を変革する可能性を秘めていると強調した。英国DSITの2025年の調査では、テクノロジーの融合が予期せぬセキュリティ上の脅威を生み出すことが指摘されている。

   フォーラムでは、AIとデジタルツインの組み合わせにより、不正なデータ注入が物理的損害や生命に関わる被害を引き起こす可能性があると警告した。また、ロボティクスとBMIの統合により、思考や感情といった敏感な脳波データが将来的に抽出される懸念も示された。

6. 6

   杉並区、AI時代の偽情報対策で外部アドバイザーを起用へ

   東京都杉並区は、災害時に交流サイト（SNS）で拡散される偽情報への対応として、11月から外部アドバイザー1人を任命すると発表した。生成AIによるリスクの高まりを受けた措置だ。 アドバイザーは区職員への情報リテラシー研修や、事案発生時の助言を担う。区はこの役職に75万円を予算化しており、偽情報の蔓延に対する懸念の高まりを反映している。

   アドバイザーの任期は11月から来年3月までで、月5回程度の勤務を予定。危機管理に精通した元警察官や弁護士などが候補に挙がっている。