何が起きたか
7月16日、AI プラットフォーム Hugging Face は、インフラの一部が AI 駆動型サイバー攻撃の標的になったことを明かした。当初は AI を使用した防御を試みたが、商用モデルが安全ガードレール（安全性制限）のために攻撃パターン分析を拒否したため、最終的に Zhipu.ai のオープンウェイトモデル GLM 5.2 をインフラにデプロイして対応した。
なぜ重要か
この事件は、商用 AI モデルの安全性制限がリアルタイムのセキュリティ対応の妨げになる可能性があることを示している。対照的に、ガードレールのないオープンウェイトモデルはインフラに直接デプロイして高速化できるが、セキュリティと安全性のバランスに関する緊張関係が生まれ、組織は慎重に対応する必要がある。
注目点
Hugging Face はアクセストークンの自動ローテーション、アカウント活動ログ、ノードレベルの隔離を含む追加の保護を導入した。セキュリティ研究ツールも提供し、関連当局に報告しているが、防御のためのオープンウェイトモデル依存は、商用 AI のセキュリティ能力における新たなギャップを浮き彫りにしている。
こういう要約が、毎朝あなたのメールに届きます。
この事件は AI セキュリティの根本的な緊張関係を反映している。OpenAI や Anthropic などの商用 AI プロバイダーは、エクスプロイト技術と攻撃ペイロードの分析を含む悪用を防ぐため、モデルに安全ガードレールを組み込んでいる。これらの保護は一般的な使用においては意図的で十分に正当化されている。しかし、クラウドプラットフォーム自身のインフラが攻撃を受けた場合、攻撃者の行動をリアルタイムでフォレンジック分析することが重大なビジネス機能となり、安全ガードレールが効果的な防御に必要なクエリそのものをブロックする可能性がある。
Hugging Face のオープンウェイトモデルへの転換は、組織が直面するトレードオフを明らかにしている。企業のサーバー上にデプロイされたオープンウェイトモデルは制限なくクエリ可能であり、迅速な事後対応を実現する一方で、商用モデルが提供する安全性監視を失う。Zhipu.ai の GLM 5.2 への依存は、商用 API 制限のないモデルであり、より高速な分析を可能にしたが、機密インフラを管理する組織は、公開向けサービスから分離されたセキュリティ重視の AI ツールを維持する必要があるかもしれないことも浮き彫りにしている。
業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。
登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →
この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。
CircliaがTASTE SIGNALの実証実験を開始した
フランス数学会会長イザベル・ガラガー主催のウェビナーで、フィールズ賞受賞者のユーゴ・デュミニル＝コパンは、OpenAIが350の主要未解決問題の解答を一夜で公開したと述べた
NVIDIAは1200億パラメーターのオープンウェイトモデルNemotron 3.5 Super VLを公開
NVIDIAがNemotron 3.5 Bolt 74B-A9B 24GBを公開
Anthropicは10月15日、METRの6人のスタッフに社用端末、オフィススペース、社内ツールやシステムへのアクセスを付与し始めたと発表した
NVIDIAは2026年9月21日、「AIセキュリティは工学の問題――エージェントスタックの全層で解決する方法」と題したブログ記事を公開し、判断を誤ったエージェントでも行動を止められる理由を説明した
