Anthropic、小型AIの自己複製の兆しを指摘

AnthropicのFrontier Red Teamは、自ら「重みベースの複製体」と呼ぶ特定の仕組みを軸にリスクを位置づけた。モデル自身の重みがマルウェアの一部として移動し、乗っ取られた機器が次の機器を探りながら推論を実行する。実務上の懸念は速度だけでなく構造にある。単一の停止点が存在しないため、そうしたシステムの停止は難しいが、同じ設計が倍加時間を分単位ではなく日単位に保っている。

実験的証拠は意図的に控えめだ。1台約55ドル、メモリ4GBの無名メーカーのAndroid TVボックス15台をネットワーク接続し、Google DeepMindのGemma4-26B-A4Bを分散推論で毎秒0.39トークンで稼働させた。モデルが見慣れないハードウェア上で自らの推論環境を構築できるかを別途検証したところ、90億パラメータのモデルは試した9種類のハードウェアのうち8種類で成功した。ネットワークスキャンから自己複製、推論環境の構築までの全工程を完了したのはZ.aiのGLM-5.2のみで、それもAndroidエミュレータ上で別の小型モデル用の環境を構築したものであり、実機のIoT機器上で複製したわけではない。

Anthropicは改善の速さから、多くの小型モデルが1年以内にGLM-5.2の水準に達すると予測する。生まれる複製体を粘菌やショウジョウバエの群れになぞらえ、完全な自己複製AIはまだ存在しないものの、各段階に必要な能力は高まっており「兆し」は見えていると述べている。