AI安全性・アラインメント

主要ニュース

1. 1

   CrowdStrike：従来型パッチ適用はAI加速脅威に対して時代遅れに

   CrowdStrike幹部のインタビューで、AIが脆弱性発見から機能的エクスプロイト作成までの時間を数分に短縮したため、従来型パッチ適用スケジュールはもはや実行不可能であることが明らかになった。同社は攻撃の82%がマルウェアではなく正当なプロセスと有効な認証情報に依存していることを強調し、ラテンアメリカでの平均侵害時間が48分から29分に短縮されたと述べた。 組織は従来型パッチ適用サイクルを放棄し、野生下で活発かつ実証された悪用が存在する脆弱性のみに焦点を当てたリスク優先度付けにシフトする必要がある。自然言語プロンプトを通じてプログラミング知識が最小限の個人でも洗練された攻撃スクリプトを作成できるようになったAIの民主化により、有能な脅威行為者のプールが拡大し、対応の迅速性が生存の鍵となっている。

   CrowdStrike戦略的優先事項には、AI エージェントが自動的に検知をトリアージするエージェンティック Security Operations Center（SOC）の拡張、セッション途中でのダイナミックアクセス無効化による実時間アイデンティティ保護の強化、ブラウザレベルおよびクラウドインフラストラクチャ保護の強化が含まれており、同社はメキシコおよびラテンアメリカでの成長機会としてこれらの領域を特定している。

2. 2

   Dell、オープンソースAIサイバーセキュリティアライアンスに参画

   Dell Technologies が業界コンソーシアムに参画し、AIを活用した脅威検出と防御を強化するためのツールと研究を共有することを目的とした、オープンソースAIサイバーセキュリティアライアンスの立ち上げに参加した。 この動きはインフラストラクチャを超えてセキュリティに焦点を当てた協業へとDellのAIにおける役割を拡大させ、AIサイバーセキュリティ分野における企業顧客向けの新たなパートナーシップと製品パイプラインを開く可能性がある一方で、商業的な影響はまだ不確実な状態である。

   鍵となるのは、Dellがこの協業を企業および公共部門の顧客が支払う意思を示す実用的なセキュリティソリューションにいかに効果的に転換できるか、また共有されるツールと標準がやがてより高い利益率の製品提供へ組み込まれるかどうかである。

3. 3

   AI対応型の侵害が25%に達し、平均被害額600万ドル—56%増加

   2026年には悪意のある侵害の4件に1件がAI対応型で、前年比56%増となり、企業の平均被害額は600万ドル（約9.6億円）に上った。これはグローバルな侵害の平均被害額499万ドル（約8億円）を約160万ドル（約1.6億円）上回る。IBMの「2026年データ侵害コスト報告書」によるもの。組織の20%以上がAIモデルやアプリケーションを直接狙った侵害を報告している。 攻撃の実行速度と費用は低下する一方、侵害の検出と復旧には莫大なコストがかかるようになり、サイバーリスクの経済学が根本的に変わっている。ただし、セキュリティ運用にAIと自動化を活用する企業は平均で約200万ドル（約3.2億円）のコスト削減を実現しており、準備が整った企業とそうでない企業の間で差が広がっている。重要インフラ部門、特に金融サービス（侵害当たり平均630万ドル（約10億円））とエネルギー（520万ドル（約8.3億円））がAI駆動型攻撃の最高濃度に直面しており、経済とサプライチェーン全体での連鎖的な混乱のリスクが高まっている。

   脅威検知に50%以上が利用しているにもかかわらず、脆弱性管理にAIエージェントを適用している企業は18%にとどまっており、既知の露出がパッチ未適用のままになっている。一方、先端的なフロンティアAI機能について学んだ後にセキュリティ支出を増やす計画を立てている企業は85%に上る（侵害を経験した後にのみ支出を増やす企業は64%）。これは受動的な対応から積極的な投資へのシフトを示唆している。

4. 4

   裁判所がInsurance会社のAIカバレッジ決定への広範な開示を認可

   Estate of Lokken v. UnitedHealth Groupの事件で、ミネソタ州地区連邦地裁はUnitedHealthがMedicare Advantageカバレッジ決定でnH Predict AIツールをいかに使用したかに関する開示取得を、ガバナンス、トレーニング、監督記録を含めて認めた。ただしツールのソースコードと基礎となるデータへのアクセスは拒否した。 この判決は、クレーム処理にAIを使用する保険会社が、自社の保険契約書が臨床医の関与を約束している場合、広範な開示リスクに直面することを示唆している。契約で述べられていることと実際に行われていることとのギャップは、訴訟と開示リスクを招く可能性がある。保険会社は自社のワークフローを人的レビューについての約束と整合させる必要がある。

   保険会社はAI推奨がいかに生成、審査、人間によって実行されるかを文書化し、明確な監督手続きとトレーニング資料を維持し、ポリシー言語が実際の意思決定プロセスと一致していることを確保することで、開示および訴訟リスクを軽減すべきである。

5. 5

   最先端AI研究機関の従業員1,224人がAI開発を減速させる権限を求める公開状に署名

   OpenAIやAnthropicを含む大手AI企業の従業員1,224人が署名し、OpenAIとAnthropicの両社から支持を受けた公開状が、AI能力開発のペースを調整する権限を求めている。この公開状は、AI企業がAI研究自体の自動化に近づいている可能性があり、それが彼らの理解や制御能力を超えたシステムの開発を加速させる可能性があるという懸念を表明している。 この公開状は、最先端AI研究機関内の相当な割合の従業員が、能力の向上に伴いリスク管理とペース調整のメカニズムが必要だと考えていることを示唆している。外部からの提唱ではなく、従業員からの内部的圧力は、大手AI企業がセーフティと開発速度にどのようにアプローチするかに影響を与える力を持つ可能性がある。

   この公開状は既に署名者に含まれる2大最先端AI企業であるOpenAIとAnthropicの両社から支持を獲得している。他の主要AI企業がこれを支持するかどうか、そしてそれがこれらの研究機関における具体的な政策やガバナンスの変化につながるかどうかは、まだ明らかになっていない。

6. 6

   5つのスタートアップがエンタープライズAIエージェント向けのインフラを構築

   5つのスタートアップが、エンタープライズAIエージェント導入における重大なギャップに対応するツールを構築している。具体的には、オーケストレーション（エージェント間の連携）、オブザーバビリティ（監視と監査）、接続性、セキュリティが対象だ。このうちBANDは、エージェントがタスクを受け取り、他のエージェントを招集し、サブタスクを委譲し、結果を集約して人間のユーザーに要約を返すことができる調整インフラレイヤーを構築している。 エンタープライズAIエージェントは業務を実行できるが、今日のシステムではエージェント同士の通信、権限を委譲される信頼性の実証、問題発生時の監査が可能なインフラを備えていない。このようなギャップにより、組織がエージェントを大規模に導入することが阻害されている。これらのスタートアップが構築するソリューションは、エンタープライズの根本的な要件である調整、可視化、説明責任に対応するものだ。

   BANDのアプローチはTelegram、Slack、Discordなどの消費者向けプラットフォームとは異なる。それらは人間によるコミュニケーション向けに設計されたものであり、エージェント同士のオーケストレーション向けではない。これらのスタートアップはVB Transform 2026でこれらのソリューションを展示し、マルチエージェント型エンタープライズAIシステムの標準インフラとなり得るものの早期段階開発を示唆している。