Anthropic、自己複製AIワームの脅威を警告

Anthropicの実験は、2つの長年の懸念の交差点に位置する。数十年にわたりマシンを感染させてきたコンピュータワームと、AI安全研究者が何年も警告してきた自己複製AIだ。新しいのは規模である。使用されたモデルは、以前に自己複製能力が示されたものよりはるかにパラメータ数が少なく、最先端のデータセンターではなく安価な消費者向けハードウェアで実行された。

研究コミュニティはこれを孤立した結果とは見ていない。Palisade ResearchのJeffrey LadishはThe Vergeに対し、以前の研究がAI駆動のコンピュータワームの脅威を現実のものとしており、より小型のモデルでさえ自律的にサイバー攻撃を実行する能力を高めていると述べた。トロント大学のNicolas Papernotは、人間の攻撃者に時間とリソースが不足していたためにこれまで無視されていたデバイスが、今や標的になり得ると付け加えた。データのためではなく、より価値の高いシステムに到達するための足がかりとしてだ。

Anthropic自身も実証と差し迫った脅威の間のギャップを認めており、完全な不正複製装置はまだ示しておらず、それがどのようなものかも分かっていないと述べている。同社はテストに自社モデルを使用せず、自社AIモデルのオープンな代替品はクローズドシステムよりリスクが高いと繰り返し主張してきた。この警告は、PR誇張や終末論とのいつもの非難を招いているが、Anthropicは長年AI安全の懸念を提起しており、この脅威を調査しているのは同社だけではない。