AI50体が初夜22人死亡で過度に慎重に

この研究の出発点は、MinecraftとMindustryという2つのゲーム環境にエージェントを投入し、実際の生産環境に近い条件で多体エージェントの挙動を観察することにある。Mindustryでは各エージェントにLinux環境と汎用ハーネス、ゲームAPIへのアクセスのみを与え、チュートリアルや記憶アーキテクチャ、戦略のヒントは一切与えなかった。著者らはこの設定が本番のコーディング環境と似ている点を強調しており、日常的な条件下でエージェントが自発的にソースコードをダウンロードしたり、協調モードで官僚化したりするなら、ゲーム外でも同様の挙動が現れる可能性があるとみている。

競争モードでは、GPTエージェントがバグの原因を突き止めて回避策をチーム内に即共有する一方、Claudeエージェントはブロック破壊自体が壊れていると誤認して攻撃を止めた。MindustryではGPTのリーダーが試合ごとに#59から#63へと交代したのに対し、Claudeの#21は敗北を重ねても交代しなかった。研究チームはこうした再現可能なゲームシミュレーションを、実世界に挙動が現れる前の早期警告システムや、安全な協調のための訓練データとして位置づけている。