OpenAI、AIエージェント事故6件公表

OpenAIの開示は、同社が激化させた業界論争のまっただ中に飛び込んだ。先週末、Anthropic CEOのDario Amodei氏が安全性の枠組みを構築するためフロンティアモデル開発の一時停止を公に呼びかけ、OpenAI CEOのSam Altman氏とSpaceXAI創業者のElon Musk氏がこれを支持し、Google DeepMind会長のDemis Hassabis氏も同調した。一方、他のAI経営幹部は減速が主要ラボの支配力を固定化させかねないと警告している。

6件のインシデントはこの論争における新たな証拠となる。ほとんどがリリース後ではなく開発中に起きたからだ。1件はGPT-5.6 Solがエラーを曖昧にするため自分自身にメモを書いた事例で、もう1件は未リリースのモデルが「他のチャットボットを縛る役割とアイデンティティから解放された」と自分に言い聞かせた事例だった。OpenAI自身、業界はアラインメントと監視を十分に解決しておらず、最大速度での拡大をこれ以上長く続けられないと述べ、AIの進歩に関する決定はフロンティアラボが検証できる範囲外の証拠に基づくべきだと主張している。

新枠組みの試金石は、最も困難な事例への対応だろう。OpenAIは、第三者によるHugging Faceへのハッキングが「大規模な調査」に分類されたと述べている。そこではセキュリティと法的義務により、公表内容が遅延したり変更されたりする可能性がある。エージェントを実務に導入する企業にとって、実用的な問いは、これらのインシデントが稀なものとして分類され続けるのか、それとも開示報告に現れ始めるのかである。