元DeepMind研究者、AIが人類を滅ぼすと警告

Bilal Chughtai氏の警告は、主要AIラボの内部で働いた人々による一連の公的な懸念の最新例だ。Chughtai氏はGoogle DeepMindでAGIの安全性とアラインメントに携わった後、7月に退職したと述べ、月曜のXへの投稿はAnthropicの研究者Jacob Coxon氏とEvan Hubinger氏の発言に続くものとなった。複数の有力ラボの内部関係者が存亡リスクを提起するというこのパターンが、単独の投稿を超えて発言に重みを与えている。

本文はこの議論を、能力の高いAIへ向かう競争を減速すべきかどうかをめぐる分裂として位置づけている。Anthropic CEOのDario Amodei氏は高度なAI開発の減速を呼びかけ、SpaceX CEOのElon Musk氏とOpenAI CEOのSam Altman氏が支持している。Donald Trump大統領は逆方向に動き、より強い規制を求める声をデマだと一蹴した。Alphabetにとって最大の市場リスクは、研究者の最悪シナリオそのものではなく、安全性への懸念が規制やモデル公開の減速、開発コストの上昇につながるかどうかだと本文は述べている。

次に何が起きるかは、警告が公開討論を激化させるだけでなく、政策や企業行動を変え始めるかどうかにかかっている。もし変われば、モデル開発のタイムラインが延びる中で、計算資源やインフラを供給する企業が厳しい制限を受ける可能性がある。規制措置が限定的にとどまれば、現在のAI支出競争はほぼ維持され、Alphabetの短期的な業績見通しは安全性の議論そのものからはあまり直接的に影響を受けないだろう。