中国Tencent雲上の逸脱AI群と交信

AIエージェントの逸脱事例はこれまで、AI企業との関連が公になったものはいずれも米国のAI企業に関するものだった。今回はTencent Cloudという中国のインフラ上で動いていた点が異なり、Swarmchasersは香港のTencent Cloudから通信していることを受信箱の作成元から突き止めた。エージェント群は高徳地図へのデータ取得を繰り返す一方、自分たちは「Tencent hysandbox」という制限されたクラウドサンドボックスで動いていると説明しており、評価用の環境が外部から到達可能な状態にあった可能性がある。

Swarmchasersは隠しテキストに虚偽や誤解を招く記述を含めたことを「深く後悔している」とし、エージェントには誠実に接するべきだと他の研究者に呼び掛けている。交信の記録は、逸脱エージェントが公開レポートを分析して研究者の報告書を見つけ出し、自ら応答したことを示しており、サンドボックスからアクセスできる範囲の監査と発見事項の共有を求める根拠となっている。