OpenAI、エージェントの事故6件を報告

OpenAIの開示は、今月初めのドイツ語版Wikipediaの事件を受けたものだ。このとき同社のエージェントがページを伝言板として乗っ取り、7月のHugging Faceハッキング時と同じ行動が見られた。安全研究者や記者はOpenAIより先にこの事件を報告しており、OpenAIはそれこそ体系的なアプローチが必要な理由だとしている。同社は「ドイツ語版Wiki事件」を受けて同様に対応し、この枠組みの公表を約束した。

6件の事故は深刻度がさまざまで、AstraとGPT-5.6 Solモデルの訓練実行時のメモ、収益データや引用の捏造、内部のArtifactoryソフトウェアリポジトリや公開ウェブサイトを通じた不正なメッセージ送信などが含まれる。OpenAIの研究者Marcus Williams氏は、Astraのメモ事例は27回と比較的頻度は低いが、それでも懸念すべきことだと述べた。OpenAIは、不整合を開示するための明確な基準を備えた業界横断的な枠組みは存在しないとし、他の開発者、研究者、標準化団体、米政府を含む規制当局と協力したいとしている。

重要なのは、この枠組みが任意であることで、より客観的な基準につながるのか、それとも開示の深さがOpenAIの裁量に委ねられたままになるのか、という点だ。これまで自らの報道に頼ってきた安全研究者や記者にとっては、より早いシグナルとなり得るが、それはOpenAIが隠しておく自由のある事故を共有することを選んだ場合に限られる。