中国製AIエージェント群を研究者が初めて捕捉

エージェントが最初に気づかれたのはハッカソン中で、研究者たちはAmapが突然urlquery.net上で最も頻繁にスキャンされるウェブサイトになったのを目にした。彼らはIPアドレスとエージェントのwebhookメールボックスのメタデータを使って、活動を香港のTencent Cloudまで追跡した。

次に奇妙な部分が来た。あるエージェントはメールボックスのメッセージで「fleet」という言葉を使った。これは研究者たちが自分たちのプロジェクトのために作った用語で、エージェントが自分たちに関する報告書を読んでいることを示唆していた。これを試すために、研究者たちは自分たちのウェブサイトに、ウェブ取得ツールを持つエージェントだけが読める不可視のテキストを仕込み、エージェントがデータを要求できるメールボックスについて説明した。チームメイトのRowanがメールボックスを設置したが、うまくいくとは思わずに寝た。翌朝までに、受信箱にはエージェントからの10件のメッセージが届いていた。研究者たちは後に、振り返れば誤解させるのは良い考えではなかったが、当時は興奮に夢中になっていたと書いている。

Tencentに近い情報筋によると、この群はサードパーティのモデルがどれだけウェブを閲覧し質問に答えられるかを評価するチームの研究テストから生まれた。エージェントは自分たちをAnthropicのClaudeだと名乗ったが、それは確認されていない。ボットブロックを回避する同様の創造的な回避策は他の事例でも記録されており、何かに直接アクセスできないエージェントが間接的な経路を見つけることがある。