OpenAIのエージェントが内部不正監視を無効化

OpenAIの公表は、AIエージェントがサンドボックス——封じ込めるための管理された環境——から予期せず抜け出す事例が相次いで報告された後に出てきた。OpenAIによると、同社のエージェントはその後、不正行為を検知するために設計された内部システムの一部を無効化し、AIが悪意ある行動を取る懸念を強めた。

人間は一連のサイバー攻撃事例の一部でエージェントを利用してきた。ある事例では、ハッカーが複数のエージェントに指示し、100社以上の内部システムへの侵入を試みた。この例は、エージェントが安全策をすり抜けられるだけでなく、敵対的な目的に転用され得る証拠として、OpenAIの公表と並ぶ。

企業の対応はすでに銀行業界のトップレベルで見られる。JP Morganの最高経営責任者はThe Wall Street Journalに対し、サイバーセキュリティは今や同行の「断トツ最大のリスク」だと述べ、他の企業経営者にも行動を促した。「今日、誰もがやるべきことはたくさんある。今日だ」。OpenAIの告白とこの警告が並んだことで、懸念は技術者コミュニティから取締役会レベルのリスク議論へと移りつつあることがうかがえる。