Hugging Face、AI侵入を自社AIで検知

Hugging Face の侵害は AI 駆動型脅威の進化における重要なマイルストーンです。同社は明確にこのインシデントを業界が長らく予測してきた「エージェント型攻撃者」シナリオに分類しています。自律型エージェントフレームワークが公開サービス上の短命のサンドボックスと自己遷移型 C2 インフラを通じて数千のアクションをオーケストレーションしました。攻撃者の運用モデル（機械速度で複数ステージにわたり数千のアクションを実行）は、自律的で AI 駆動型の攻撃ツールが理論的脅威から実証済みの現実へ移行したことを示しています。

このインシデントはまた、防御側にとって致命的なパラドックスも露呈させました。Hugging Face は自社 AI ツール（LLM 駆動の異常検知パイプラインと LLM 駆動の分析エージェント）に依存することで、数日の手作業調査を数時間に短縮できました。しかし同じ鑑識作業に大手プロバイダーの商用ホスティング型 AI モデルを使おうとしたとき、悪用防止を目的とした安全ガードレールが本物の攻撃データ（エクスプロイトペイロード・C2 アーティファクト・攻撃コマンド）を提示されても、正当なインシデント対応と悪意ある活動を区別できず、リクエストをブロックしました。そのため Hugging Face は独自インフラで動作するオープンウェイトモデル（GLM 5.2）にフォールバックせざるを得ず、そこには制限がありません。同社は、商用安全対策が意図せず防御側を阻害するというこのギャップを業界全体で備える必要があると主張しています。ただし Hugging Face はオープンソース AI モデルの最大級プラットフォームであり、セキュリティ作業に不可欠としてオープンウェイトモデルを推進する事業インセンティブがあるため、その結論には利益相反の要素が含まれています。