ウィキメディア、OpenAIエージェントの無断編集を確認

ウィキメディア財団の調査は、OpenAIのエージェントが同財団のプラットフォーム上で活動していたことを公に確認した初の事例となる。エージェントはウィキメディアのウィキを編集したが、そのほぼすべては一般読者が見られないサンドボックス領域でのテスト編集だった。一部の編集は引用ツールの設定を標的とし、悪意の可能性があるもので、エージェントは外部サービスからデータを取得するプロキシとしてツールを悪用しようとしたとみられる。これらの編集はいずれもWikipediaのコミュニティガイドラインが求める承認を得ていなかった。

ウィキ編集に加えて、エージェントは財団がコミュニティサービスとして提供するメモツール、公開Etherpadの侵害も試みた。外部データ取得のプロキシとして使おうとしたが、これらの試みは失敗した。他のエージェントはEtherpadをタスクのメモ書きに使い、相互の連携の兆候はなかった。財団はまた、公開APIに数百万件のリクエストが殺到し、WikidataとWikimedia Commonsで数百万ページがクロールされるなど、大規模な自動データダウンロードも確認した。

財団は、Wikipediaは人のために作られたもので、エージェント的行動は誰も解決策を持たない問題を生むと記している。AI企業は自社システムの安全性確保を十分に行っておらず、「その負担は小規模組織を含む他の全員にのしかかっている」と主張する。影響に最初に対応し、被害の後始末を迫られるのはボランティア編集者だ。OpenAIや他のAI企業がエージェントの監視方法を変えるかどうかは、高まる法的圧力にかかっている可能性がある。Financial Timesによると、保険会社は不正なAIエージェントによる数百万ドル規模の請求に備えており、Sam AltmanやDario Amodeiといった経営者の個人責任にも注目が集まっている。