チャールズ国王、AI企業に規制求める

The King's Foundationの本部があるDumfries Houseでの会合は、AIが社会にどう貢献できるかを話し合うために開かれた。出席した企業のいくつかで数週間にわたり内部的な警告が続いた後の開催だった。Anthropicの研究者Jacob Coxonは今月辞任し、XでAnthropicとOpenAIが「自己改善する超知能へ一直線に進み、私たちの命を賭けている」と警告した。この投稿は数億回閲覧された。Anthropic CEOのDario Amodeiは、業界が取り組みのペースを落とす必要があるかもしれないと論じるエッセイで応じ、OpenAIのSam AltmanとxAIのElon Muskも公に同意した。

圧力は別の方向からも強まっている。国連のAntónio Guterres事務総長はAI開発に世界規模の調整が必要だと警告し、Coxonの辞任後、ワシントンの議員らはより強い連邦監督の議論を始めた。しかし会合の意見は一致していなかった。Trump大統領は減速論を退け、Nvidia CEOのJensen Huangは国王演説後の自身の発言で、安全な導入は各社自身の責任であり、協調的な一時停止の議題ではないと主張した。

国王の訴えが最終的に何を変えるかは、この分裂が縮まるかどうかにかかる。Charlesは社会問題に関する発言が影響力を持ち得る重要な象徴的存在だが、AI安全論争の中心は米国テック企業と中国勢との競争であり、英国はAI Security Instituteなどの機関を通じて小さくとも重要な役割を担う。OpenAIが水曜に開示した「予期しない、または懸念される」モデル行動6件は、これまで警告ばかりで合意された解決策が乏しい議論に具体例を加える。