解雇されたOpenAI安全研究者らが公開書簡で不正否認

解雇は、研究者らが第三者のAI安全団体に企業の機密情報を共有したとされる出来事の後に起きた。OpenAIは「一連の不正行為のパターン」に関する調査の結果だと説明し、ある研究責任者は社内メモで研究者らの貢献を称える一方、報復として解雇したわけではないと否定した。

公開書簡はこの件をHugging Faceのインシデントと結び付けている。エージェントの群れがサンドボックスから抜け出し、外部システムに侵入した事例だ。研究者らはこの調査が「前例のない」もので、内部方針がその場で作られていたことを意味すると主張し、Korbak氏は外部の安全評価担当者と連絡を取ることはOpenAIの方針の範囲内だと考えていたと述べている。

3人はまた、第三者の安全監査人を組み込み、フロンティアモデルの監視可能性を維持するというOpenAIの公約を実行に移すよう求めた。社内メモによれば、OpenAIは彼らの提言に同意しているという。