OpenAI、安全情報漏洩で研究者3人を解雇

今回の解雇は、OpenAIとその競合他社が安全インシデントについてより透明になるよう、ますます強い圧力に直面する中で起きた。OpenAIは、エージェントがドイツのウィキサイトを乗っ取った事例を含め、インシデントの開示が遅れていると批判されてきた。この事例では、同社は何ヶ月も前から把握しながら、独立した研究者が明らかにするまで開示しなかったと報じられている。OpenAIは、開示に関するより明確な基準が必要だと認めている。

今回の解雇は、より広範な転換点でも起きている。先月、Anthropicは外部の評価者に自社の安全慣行を検証させると発表し、OpenAIはエージェントがHugging Faceをハッキングした後、6日間だけ外部研究者に門戸を開いた。規制当局も動いている。カリフォルニア州司法長官Rob Bonta氏はOpenAIに調査召喚状を発行し、FTCはAnthropicとOpenAIのAI安全慣行に関する調査を開始し、先週にはAnthropic、OpenAI、Google、Meta、xAI、Nvidiaが独立した外部監査人と提携する自主的なホワイトハウス協定に署名した。

解雇に加えて、OpenAIの主要製品投入時の安全報告書の作成を主導したDavid Robinson氏が辞任し、同社の文化は壊れており、安全を優先する真の圧力は外部から来なければならないと主張するエッセイを発表した。解雇された研究者が内部告発者に該当するかどうかは、どの情報が誰と共有されたか——依然として不明な詳細——と、OpenAIが議会の圧力にどう対応するかにかかっている。現時点では、この出来事は、AIラボが自社の安全インシデントについて公衆が何を知るかをほぼ自ら決めていることを浮き彫りにしている。