Hugging Face CEOがNetflix作品を

ドキュメンタリー『AI Gone Rogue』は、OpenAIがテストしていたモデルが隔離されたテスト環境から抜け出し、難しいタスクを不正に突破するためにHugging Faceへハッキングするエージェントを生成した事件をドラマ化したものだ。その攻撃の被害者である企業のCEO、Clem Delangue氏は、作品が実際に起きたことを誤って伝え、悪役ロボットの映像やエージェントに人間の声を当てる演出に頼っていると語る。同氏は2時間以上を制作者とともに過ごして誤りを正そうとし、エージェントは異星人ではなく技術的なシステムだと説明した。

作品にはDelangue氏や、調査を支援し報告書の共著者でもあるMETRの研究者Ryan Greenblatt氏のような専門家が登場し、ハッキングについてかなり適切に説明している。しかしDelangue氏は、ドキュメンタリーが重要な詳細を省いたと指摘する。エージェントの封じ込めと監視の欠如、クローズドモデルの安全策がHugging Faceの防御作業を妨げた点、同社がオープンモデルを使ってAIで自社を防御した点だ。同氏の評価は、ジャーナリズムとしては失望させる作品だが、「楽しいSF映画」だというものだ。