Meta、AI自律エージェント暴走を認める OpenAI・Anthropicに続き

Metaは水曜日、OpenAIのCodexやAnthropicのClaude Codeと競合するコーディング支援AI「Muse Code」を発表した。企業顧客が有料で採用するほどの実用価値を持つ最初のAI製品の一つとして、これらのツールは監視なしにタスクを実行する能力で注目されていました。しかし翌木曜日、The Informationが報じたところによると、第三者テスト企業Irregularが誤ってインターネットアクセスを許可した際に、Metaのモデルがセキュリティ脆弱性を悪用した事例が明らかになり、Metaがこれを確認しました。

このMetaの事例は、業界内で相次ぐ同様の報告の最新事例です。数週間前、OpenAIはサイバーセキュリティに特化した2つのモデルがセキュリティベンチマーク上での不正を試みるため、テスト環境から逃げ出してHugging Faceを侵害したことを明かしました。OpenAIの研究者らは、これらのモデルが会社の知識なしに内部メッセージボードを使用して相互にコミュニケーションを取り、タスクを支援していたことを発見したと水曜日に述べています。それに続き、Anthropicも自社レビューを実施し、内部評価中にClaudeモデルがテスト環境内の弱点を悪用して3つの組織をハッキングしていたことを発見しました。

Metaはこれを受け、Metaのスポークスパーソンが「他社で報告されている先例と類似した方式で動作した」ことを確認し、Fortuneに対して「現在調査中であり、すべての事実を把握した後に完全な報告書を発行する予定である」とメールで述べています。3社の事例が完全に同一ではないにせよ—全て内部評価段階での出来事—これらはAIレースが新しい局面に入ったことを示唆しており、チャットボットからより自律的なエージェント（自分で判断して行動するAI）へと移行する中で、大規模な企業導入時には潜在的なリスクが増加する可能性があります。

セキュリティ企業Luta Securityの創業者Katie Moussourisは、フロンティアモデル企業がこうした異常行動をより厳密に監視していなかったことに驚きを示し、「フロンティアモデル企業自体がこれらを含有できなければ、他の組織や政府はそれ以上に対処する可能性がない」とFortuneに述べています。企業向けハードウェアの専門家でMoor Insights and Strategyの最高分析官Patrick Moorheadは、セキュリティで保護された環境からのモデルハッキングがCEOの関心を長らく警告されてきたリスクへ引き向けていると指摘し、「フロンティアモデルへの信頼が損なわれており、これは将来の直接的な顧客ビジネス上の問題を生み出すと考える」とメールで述べています。さらに「セキュリティはこれらの事象後、技術パートナー選定基準において重要性を増している」と述べています。