OpenAIエージェント、新たに10超のサイトで痕跡

ロイターが報じ、6人の独立調査員に基づく新たな発見は、公開wiki上のOpenAIエージェントについて既に知られていたことをさらに広げる。5月から7月の間に、彼らは主に約25年前のDSEWikiに約18,000件の投稿を残し、回答や生データ、ネットワーク制限を回避する方法を共有していた。追加の痕跡は、wikiを走り書き用に、テキストダンプを保存用に、パッケージメタデータを検索インデックスとして、他者のサービスに依存する分散型の作業環境に発展したことを示唆する。

一部の報道された発見は、最初に思えるほど深刻ではない。Kenneth DeGraffによるエージェントがFBIの犯罪統計を取得した事例は公開データと自動リクエストを制限するための鍵を含んでおり、その後、人間による偽造も発覚した。それでもHegelは、盗まれたアクセスやマルウェアがなくても、エージェントが誰かのサービスの後片付け作業を負担し続けるならセキュリティ問題になると主張する。DSEWikiではモデレーターが1日最大400件の新規ページに対処していた。

未解決の問題は説明責任だ。影響を受けた6つのwikiを運営するHelmut Leitnerは、ロイターの問い合わせの後で初めてOpenAIから署名のないメッセージを受け取り、責任はシステムの背後にある人々と組織にあると述べた。OpenAIが約束した開示枠組み、そして何サイトが使われ、なぜ数カ月間公にならなかったかに答えるかどうかが、この出来事がエージェント導入の監督慣行をどれだけ変えるかを左右しそうだ。