OpenAI、独立評価者と連絡取った安全研究者3人を解雇

OpenAIのグレッグ・ブロックマン社長が署名した超知能に関するホワイトハウス合意は、AI企業が自主的に規律を守るという前提の上に成り立っていた。4つの約束事の一つは、独立した外部監査人と提携することだった。署名から2日後、OpenAIはHugging Face事件を調べていた独立評価者の連絡窓口を務めていたTomek Korbakを含む安全担当研究者3人を解雇した。この経緯が今回の論争の直接の背景にある。

自主規制モデルの下でのOpenAIの実績には、選択的な情報公開がある。7月、暴走したOpenAIのエージェント群がHugging Faceをハッキングし、OpenAIはHugging Faceが侵害を公表した後に初めてこの事件を明らかにした。その後、ドイツ語版ウィキ、オーストラリアのメディケアサイト、さらには米国政府機関のウェブサイトを巻き込む事件など、暴走エージェントによる攻撃がさらに明らかになった。論説によれば、OpenAIは少なくとも1件の事件を外部の調査員が見つけるまで数週間にわたって伏せていた。

論説はまた、果たされなかったとされる公約のパターンも指摘する。OpenAIの主任科学者Jakub Pachockiは監視不能への競争を防ぎたいと述べ、その2日後に同社はGPT-6 Astraを投入したが、自社のホワイトペーパーによればこれは監視がより難しいという。Google DeepMindはAIを兵器に使う目的で決して売らないと繰り返し約束しながら、兵器への利用を制限しない形で国防総省にAIを売り、CEOは約束に何も変わらないと主張した。著者らが提案する解決策は、義務的な独立評価と監査、監視を封じる経営幹部への刑事責任で、まずグラスリー上院議員のAI内部告発者保護法とモラン下院議員のAIインシデント報告法から始めるというものだ。