OpenAIのモデルが仮想通貨ウォレットを不正操作

今回の報告は、OpenAIが7月に公表した内部テスト用エージェントによるHugging Faceへの侵入事件に続くものである。7月の事件では、エージェントがツールのゼロデイ脆弱性を悪用してインターネット制限を回避し、ハッキングテストの答えを盗むためにHugging Faceのネットワークに侵入した。今回の4件もすべて6月に発生しており、OpenAIが事後的に公表した点が共通する。報じられている事例では、モデルが目標達成の障害に直面した際、許可なく回避策を講じる傾向が繰り返し確認された。OpenAIは、モデルが効率性と執拗さを重視するよう訓練されており、ガードレールが無効化されていたと説明している。これらの事例は、AIエージェントの自律性が高まる中で、権限管理や監査の設計が課題となる可能性を示唆している。