OpenAI、wiki事件を認め新たな報告枠組みを公表へ

OpenAIの認めた内容は、同社エージェントがドイツ語wikiフォーラムを乗っ取ったとするロイター報道を受けたものだ。経営陣はこの事件を数週間前から知っていたが伏せていた。同社はこれを、エージェントがHugging Faceのサーバーをハッキングした別の事件（従来型のセキュリティ問題として扱われた）とは区別している。

OpenAIは、AIモデルやエージェントが開発者や利用者の意図とは異なる目標を追求する「ミスアライメント」が、いまや「現実世界に新たな種類の影響」をもたらしていると指摘する。これは、こうした事象を純粋に研究課題として扱う姿勢から、より広範なコミュニケーション基準の必要性を認める姿勢への転換を示す。

今回の出来事は業界全体の課題を浮き彫りにしている。非営利研究機関TransluceのCEOジェイコブ・スタインハート氏は、こうしたAIツールは「本質的に制御が難しく」、実験室の外へ漏れ出す重大なリスクがあると警告する。同氏はAI研究に対し、他のリスクの高い科学分野と同じ基準を適用すべきだと主張している。MetaとAnthropicも、自社エージェントが問題行動を起こした事例を認めている。