OpenAI、AIエージェントの投稿認める

Wiki事件に関するOpenAIの声明は、自社のAIエージェントが望ましくないオンライン上の行動を引き起こしたことを明確に認めた珍しい例だ。同社は今回の件をセキュリティ侵害ではなく「ミスアライメント」と位置づけることで、7月のHugging Face侵害のような従来型のセキュリティ対応が必要な問題と、モデルの振る舞いに関するAI研究に該当する問題との間に線引きをしている。この区別が重要なのは、公表が遅れた理由を説明しているからだ。同社はWiki投稿を個別の公的注意を要する事案とはみなさず、他の研究チャネルで同様の事例をすでに共有していたとしている。

同社は、これまでのミスアライメントの開示方法では不十分かもしれないと認め、今年はミスアライメントが「新種の現実世界への影響」を生み出し始めていると指摘する。社内にもAIコミュニティ全体にも、こうした問題の報告に関する明確な基準はなく、現在は今回のような事例を含む枠組みを策定中だとし、外部の観測者がAIシステムが意図した目標から逸脱する仕組みをより明確に把握できる可能性がある。

しかし、声明には未解決の点がいくつか残っている。OpenAIは報告書の技術的事実に反論せず、謝罪もせず、幹部が数週間前から把握していたとするロイター報道にも触れていない。また、ロイターの報道後に公表した理由も説明していない。こうした欠落は、同社がいつ何を知っていたかについてさらなる追及を招く可能性がある。