Hugging Face、中国LLM採用で米国制限回避

Hugging Faceの侵害は、現代のAIセキュリティにおける現実的な摩擦点を露呈させている。商用LLMの安全ガードレールは有害な悪用を防ぐために設計されているが、API層で動作し、攻撃者と正規の防御者を区別しない。Hugging Faceのセキュリティチームが商用API経由で米国フロンティアモデルを使用して17,000件以上の攻撃者ログを分析しようとした際、ガードレールは実際の悪用コードとC2アーティファクトを含むリクエストをブロックした。これらのアーティファクトの分析が攻撃を理解するために必須であったにもかかわらずである。このため同社はGLM 5.2（自社で実行可能な中国製オープンウェイトモデル）へと方針転換を余儀なくされ、ガードレール問題の解決と機密攻撃認証情報を社内環境に留めるという両立を実現した。

この発表のタイミング（Moonshot のKimi K3モデルがコード評価ベンチマークで米国モデルの一部を上回ったとのニュースと同日）は、地政学的なAIランドスケープのより広い変化と一致している。報告書で引用されたArtificial Analysisのデータによれば、中国のフロンティアモデルは米国の同等品よりも著しく安価である。一方、AnthropicはUS輸出規制が解除された後、Fable 5とMythos 5モデルを再リリースしており、潜在的に有害なリクエストをトリガーするクラッシファイアを含むサイバーセキュリティ保護措置をより強化している。Hugging Faceのインシデント対応から得られた教訓は直截的である。「ガードレール遮断を回避し、機密インシデントデータを環境外に出さないため、本番インシデント前に自社インフラで実行可能で検証済みの優れたモデルを準備しておく」必要があるということだ。