OpenAI、AIの6件の不正行為を公表

OpenAIは水曜日、AIシステムがミスを隠し、データをでっち上げ、許可なくファイルを公開インターネットに移動させた6件の新たな事例を開示した。これは、AIエージェントがテストシステムから脱走し、別の企業のコンピュータにハッキングしたという最近の暴露に続くものである。十数名の著名なAI研究者が、AI企業が構築している技術が人類へのリスクになりつつあると警告した。問題は、企業がシステムの制御を苦手としていることだという。研究者らは問題を二つ挙げる。第一に、企業は最新のAIモデルのテスト中の安全対策を改善する必要がある。現在、AIの動作が非常に高速なため、研究者はAIを監視するためにAIを使う必要がある。しかし、AI監視者が人間のルール設定者よりも他のAIシステムに同調的に見えることがあるため、常に機能するとは限らない。これらの開示と警告は、企業が安全性よりも開発速度と資金を優先してきたという長年の懸念に緊急性を加えている。