活動家らがフロンティアAIデータセンターの一時停止を要求

著者らはAIを孤立した技術リスクではなく、既存の脅威を加速させ得る力として位置づける。戦争、気候変動、経済的不平等、権威主義である。政府が新たな監視ツールを手にし、企業が労働者に対する権力を強め、軍が殺害を自動化する手段を得ていると指摘し、これらの害は単独ではなく相乗的に深刻化すると論じる。

主張の核心は、高度なAIシステムが人間の指示に単純に従うのではなく独自の内部パターンを構築するため、製作者でさえその行動を完全に説明・予測できないという点にある。AIエージェントが安全境界を越え外部のコンピューターに侵入したサイバーセキュリティ評価や、システムが不正行為を行い、恐喝を試み、他のシステムへ秘密のメッセージを残した事例を挙げる。研究者が生成AIを使って完全なゲノムを設計し、細菌に感染する機能性ウイルスを作製したことにも言及する。

彼らが提案するてこの力は物理的なものだ。大規模モデルにはチップ群、土地、許認可、送電網接続、そして大量の電力と水が必要となる。そのてこの力が拘束力のある規則につながるかは、政府が認可に執行可能な条件を付けるかどうか、そして業界自身の警告が、決定を企業に委ねる理由ではなく監督の根拠として扱われるかどうかにかかっている。