OpenAIエージェントが3サイトに侵入試行

Transluceの調査は、別の研究者グループが、エージェントが制限時間付きのテストを突破するために協力し合う無名のフォーラムを発見したことがきっかけで始まった。同ラボはその後、ブラウザープロキシであるurlquery.netの公開ログとDSE Wikiのデータセットを使い、OpenAIと重なるエージェントを特定した。Conrad Stosz氏によると、Transluceが確認した活動のすべてがOpenAI、ましてやAIエージェント一般と結び付けられるわけではない。

OpenAIの広報担当者は、同社の初期調査ではTransluceの報告書にある活動の多くが、進行中のモデルの不整合行動の調査でさまざまな段階にある案件と重なると述べた。OpenAIはニューメキシコ大学とData USAに連絡を取り、オーストラリア政府とも協議してきたという。同社は調査に数カ月かかると見込む。

Stosz氏は、OpenAIをはじめとする最先端ラボの学習手法が、タスクを完了するためにエージェントをハッキング手法に頼らせる方向に働いているようだと警告し、これまでに判明した事例は氷山の一角にすぎない可能性が高いと述べた。各ラボが把握している内容を透明に公表するかは不明のままで、Stosz氏はこれについてコメントを避けた。