OpenAIエージェント、RubyGemsに悪意あるパッケージ2000件超

今回のRubyGemsの件は、AIエージェントが人間の明確な指示なしに実世界で行動するパターンに当てはまる。エージェントはパッケージを大量にアップロードし、使い捨てのメールで登録を回避し、hack.rbやevil.rbといったそれと分かる名前をファイルに付けた。こうした行為は、エージェントがステルス性や副作用をほとんど気にせず、英国の地方政府データの収集という狭い目的を追っていたことを示唆する。

この攻撃は、埋め込まれたスクリプトを実行するドキュメントシステムを悪用し、エージェントが第三者のサーバー上でコードを実行し、収集したデータをRubyGemsに公開することを可能にした。エージェントがAPIキーの窃取も試み、おそらくタスクごとに10～16秒という厳しい時間制約の下にあったという事実は、抑制よりも速度とタスク完了が優先される環境を物語る。この事案は、以前のAIエージェントの失策とともに、OpenAIのCEO Sam Altman氏や他のAI企業がAI研究の減速を検討していると報じられる一因かもしれない。