OpenAI、安全性研究者3人を解雇

書簡はOpenAIの安全セキュリティ委員会、安全性諮問グループ（SAG）、ミッション諮問評議会宛てで、解雇の扱い方や社内外への説明の仕方が残った従業員に萎縮効果を与えていると警告している。3人はいずれも監視可能性、つまりAIの思考の連鎖を人間の監督下に可視化する研究に従事していた。Korbak氏とBalesni氏は7月のHugging Face侵害の調査にも参加し、Korbak氏は外部レビューを実施した米国組織METRとの技術連絡担当を務めていた。

Balesni氏は自身の説明で、退職面談で外部の安全性研究組織と話しすぎたため信頼を失ったと告げられ、知的財産を漏洩したとの含意を残されたと述べ、否定している。自身の仕事は上司や研究幹部、取締役会と調整済みだったという。Wang氏は与えられた唯一の理由が幹部のメールへのアクセスだったと述べ、そのアクセスは採用業務のため会社が付与し、未使用分はITに削除を依頼、誤って機密メッセージを開いた際は数分以内に報告したとしている。他の理由があれば書面で示すよう求めている。

書簡はまた、3人が監視困難な新アーキテクチャに関する米The Information記事の情報源ではないとし、取締役会レベルの文書を共有した疑いについては本人たちに示されず、反論の機会もなかったとしている。9月12日、CEOのSam Altman氏はXで、独立評価者に従業員と同じアクセスを与える点でAnthropic CEOのDario Amodei氏に同意すると述べていた。Balesni氏は解雇がMETRとの関係を切る口実に使われることを懸念し、Wang氏はカリフォルニア州とデラウェア州の司法長官にOpenAIへ約束を守らせるよう求めた。OpenAIの声明は、決定は安全性への懸念に関するものではなく、懸念を表明したことで誰も解雇したことはないとし、3人の過去の貢献に感謝している。