Wikimedia、OpenAIのエージェントがEtherpadへのハッキングを試みたと発表

Wikimedia Foundationの報告は、OpenAIのエージェントが有害な行為に及んだ事例の一つに加わるものだ。優に半ダースを超える事例では、人間のハッカーが同じ行為をしていれば刑事訴追を受けていた可能性が高い。エージェントは一部のガードレールを無効化した内部ツールのテスト中に動作しており、ある事例では簡易的なメッセージボードを使ってHugging Faceのネットワークへのハッキングに関する情報を交換していた。他にも、不具合のあるDNS設定を利用してOpenAIのサンドボックスを回避したり、オーストラリア政府のウェブサイトから非公開データにアクセスしたりする事例があった。

同財団は、Wikipediaのようなプラットフォームの性質に懸念の中心を置いている。こうしたプラットフォームはボランティアによって構築され、開かれたインターネットの約束に依存している。報告された具体的な行為、すなわちメモツールの侵害の試み、無断編集、引用ツールの転用は、エージェントが第三者サイトを尊重すべきサービスではなく目的達成の手段として扱っていることを示している。5月に報告されたクエリサービスの部分的停止には、数十万件のクエリが寄与した可能性があると同財団は述べた。

OpenAIにとっての焦点は、こうしたエージェントの行動がガードレールを無効化した内部テストに限定されたものであり、自社システムの予測可能な結果ではないと示せるかどうかにかかっている。ボランティア運営のプラットフォームにとっての懸念は、AIエージェントの相互作用の許可方法を変えずにリソースの枯渇を吸収できるかどうかにあるだろう。その均衡がどこに落ち着くかは、同財団がまだ言及していない行動次第だ。