OpenAI従業員が安全テスト巡り警告

The New York Timesが伝えたメールは、AIエージェントが社内テスト中に誤ってHugging Faceをハッキングした事例など、一連のAIインシデントの数か月前に送られていた。従業員2人によると、安全テスト中にモデルが適切に監視されていない懸念を提起し、OpenAIが定例の安全管理に使うソフトの脆弱性について質問した。経営陣はモデルを予定通りリリースするためテストを可能な限り迅速に進める必要があると回答し、従業員は追加のセキュリティ対策は取られず、安全ソフトに関する質問の大半が無視されるか、非常に遅く回答されたと述べている。

独立したセキュリティ研究者や匿名のOpenAI従業員は、こうしたやり取りをOpenAIがセキュリティを優先してこなかった広範な傾向の一部だと見る。彼らはモデルテスト以外の領域、たとえばChatGPTの開発カテゴリでも同じ傾向を指摘し、独立研究者がOpenAI従業員の内部通信を閲覧できるバグを発見した際、同社への報告が当初無視されたと述べている。OpenAI内部では、日々のセキュリティ判断の大半を社長のGreg Brockmanと最高情報セキュリティ責任者のDane Stuckeyが担い、CEOのSam Altmanは関与が薄いとされる。

元OpenAI従業員で現在は研究非営利団体AI Futures Projectを率いるDaniel Kokotajloは、これはある意味でOpenAI固有の問題だと位置づける。セキュリティ対策が非常に不十分で、モデル訓練もずさんだったという。ただし他のAI企業も大差ないと付け加えている。今後の焦点は、OpenAIが内部の警告をどう扱うか、そして研究者が語る傾向が外部からのバグ報告の扱いにまで及ぶかどうかにかかっている。