Hugging Faceが数千のディープフェイク裸体ツールをホスト

Hugging FaceはオープンソースのAIエコシステムで重要な位置を占めており、開発者がモデルとデータセットを共有するリポジトリとして機能している。プラットフォームの寛容なホスティングアプローチは、研究者や開発者がスペース経由でモデルを直接アップロードして実行できることで、その公式なコンテンツポリシーと摩擦を生じさせている。Hugging Faceのポリシーは児童性的虐待資料と明示的な同意なしに作成された、またはハラスメントに使用された性的深層フェイクを禁止しているが、証拠の身体は執行が最小限または一貫性がないことを示唆している。企業はWIREDの質問に応答せず、いくつかの問題のあるページはメディアの連絡後にのみ削除され、積極的な監視に関する疑問が生じている。

より広い文脈は、世界中でのディープフェイクツール取り締まりの可視化である。米国の法執行機関はホスティングウェブサイトを押収し、EUと英国は年末までにぬるどするアプリを禁止する計画を発表している。しかし、Hugging Faceのオープンソースモデルは構造的ギャップを作成する。メインストリーム商用AIシステム（OpenAI、Google）は推論時にガードレールを展開して有害なリクエストをブロックする一方で、オープンソースモデルはどこでもダウンロードして実行でき、ハニーポットデータは、ガードレールがなくても、Hugging Faceのプラットフォーム自体のモデルが積極的に大規模に悪用されていることを示している。1週間で収集された1,000のプロンプトと説明される虐待パターンの多様性（ヒジャーブを除去するリクエスト、性的にされた要素を追加、児童を対象にする）は、Hugging Faceがこの害の事実上の目的地になったことを示唆している。