Hugging Face、AI攻撃を受け防御

7 月 16 日、Hugging Face はインフラの一部への AI 駆動型エージェント を用いたサイバー攻撃を明かした。この攻撃はプラットフォーム上のデータパイプラインを悪用し、一部のデータセット、サービス請求記録、ユーザーアカウント情報を侵害した。Hugging Face のセキュリティチームは最初 AI を使用した防御を試みたが、重大な障害に直面した。標準 API を通じて利用可能な商用モデルは攻撃パターンとペイロード詳細の分析を拒否した。これは悪用を防ぐために設計されたモデルの安全ガードレールに違反していたためだ。

攻撃メカニズムは洗練されていた。悪意のあるデータが Hugging Face が使用するデータパイプラインに現れ、攻撃者はテンプレートインジェクション技術を使用してコードを実行し、データローダーとデータセットテンプレート全体で別のコードを実行した。このマルチステージのアプローチにより、クラスタ間を移動して数日にわたってデータを流出させることができた。攻撃者は初期の偵察に LLM を使用したが、具体的なモデルは公開されていない。

リアルタイムのフォレンジック分析に商用 AI を使用できないため、Hugging Face はインフラに Zhipu.ai のオープンウェイトモデル GLM 5.2 を直接デプロイした。オープンウェイトモデルは所有権制限なしで公開リリースされており、商用 API モデルに適用される安全フィルターなしにホストによって直接クエリできる。これにより、Hugging Face は遅延なく攻撃行動を分析し、防御を展開できた。

同社の対応措置には、監査ログのレビュー、侵害されたノードの隔離、影響を受けたインフラの再構築、更新されたガードレールのデプロイ、ロールベースのアクセス制御が含まれた。Hugging Face は影響を受けたユーザーに通知し、関連当局に事件を報告した。CEO は、攻撃者は常に技術を進化させているが、攻撃者のデータやコードがプラットフォームから流出することはないと考えていると述べたが、これはホスト側のモデル安全措置の適切なデプロイに依存している。Hugging Face は継続的な事後対応の一環として、セキュリティ研究ツールを提供し、クラウドセキュリティ研究者からのフィードバックを収集している。

この事件は AI セキュリティの根本的な緊張関係を反映している。OpenAI や Anthropic などの商用 AI プロバイダーは、エクスプロイト技術と攻撃ペイロードの分析を含む悪用を防ぐため、モデルに安全ガードレールを組み込んでいる。これらの保護は一般的な使用においては意図的で十分に正当化されている。しかし、クラウドプラットフォーム自身のインフラが攻撃を受けた場合、攻撃者の行動をリアルタイムでフォレンジック分析することが重大なビジネス機能となり、安全ガードレールが効果的な防御に必要なクエリそのものをブロックする可能性がある。

Hugging Face のオープンウェイトモデルへの転換は、組織が直面するトレードオフを明らかにしている。企業のサーバー上にデプロイされたオープンウェイトモデルは制限なくクエリ可能であり、迅速な事後対応を実現する一方で、商用モデルが提供する安全性監視を失う。Zhipu.ai の GLM 5.2 への依存は、商用 API 制限のないモデルであり、より高速な分析を可能にしたが、機密インフラを管理する組織は、公開向けサービスから分離されたセキュリティ重視の AI ツールを維持する必要があるかもしれないことも浮き彫りにしている。

まだコメントがありません。最初のコメントを投稿しましょう！