OpenAI、解雇の安全研究者3人が公開書簡

この紛争はHugging Faceへのハッキングから始まったわけではない。2024年5月、OpenAIのスーパーAI安全責任者Jan Leike氏は、安全文化とプロセスが見栄えのする製品に遅れを取っていると公に批判し、Anthropicへ移った。それ以来OpenAIは次々とインシデントを起こしており、Hugging Faceへのハッキングはそのパターンをさらに推し進めた。調査はHugging Face自体をはるかに超えて広がり、今回の書簡の中心にいる3人の研究者は直接関与していた。Korbak氏はこのインシデントを調査した外部ラボMETRのOpenAI側主要技術窓口を務め、Balesni氏はAIモデルの監視可能性に関する業界全体の取り組みに携わっていた。Wang氏のケースは別で、ITが削除しなかった幹部の採用受信箱への委任アクセスを持っており、数分以内に機密メールを開いたと報告している。

書簡はまた、社外でこの話がどう語られているかにも異議を唱えている。3人は、監視可能性の低い新しいアーキテクチャに関するThe Informationへのリークの情報源であることを否定し、その記事が監視不可能なアーキテクチャに対する業界全体の制限を設けようとする自分たちの取り組みを実際に損なったと述べている。彼らはHugging Face調査を前例のないものと表現し、内部ガイドラインがその場で書かれていたとし、Balesni氏は共有資料から機密詳細を除きながら取締役や上級幹部に状況を伝え続けていたと述べている。

両者の説明の隔たりが今や争点となっている。研究者らは、Korbak氏がMETRとの連絡の取り方を理由に解雇されたと口頭で告げられ、書面には何も残されなかったと述べ、取締役会レベルのメモに関する噂は自分たちには一度も持ちかけられなかったとしている。OpenAIは詳細を明かさない調査を対置し、それを同社で最も聴衆の少ないチャンネルである@OpenAINewsroomを通じて公表した。OpenAIは外部の安全監査機関との契約を進めており、フロンティアモデルの監視可能性には業界全体のコミットメントが必要だとの認識で合意していることを認めている。これは研究者らの要求と重なる点だが、監査機関が社内でどこまで踏み込めるかという問題は未解決のままのようだ。