国王チャールズ氏、AIの実存リスクを警告

このサミットは、本来競合関係にある企業の関係者を一堂に集めた。Nvidia、Google DeepMind、OpenAI、AnthropicがいずれもDumfries Houseに代表を送り、王室の発表では企業名のみが挙げられ個人名は明かされなかった。Bloombergによると、Anthropicのグローバル問題責任者Tino Cuéllar氏が出席し、複数の一対一会談の一つとして国王と非公開で会った。

出席者のメッセージは力点が異なっていた。Jensen Huang氏は製品出荷の前提条件としての安全性と、研究者や大学、スタートアップ、各国が単独の主体では想像できない応用を構築できるオープンモデルの価値に焦点を当てた。Demis Hassabis氏は議論に時間軸を持ち込み、AGIはおそらく数年で実現して産業革命の10倍の影響を持ち、問題が起きる確率は決してゼロではないと述べた。OpenAIのCFO、Sarah Fryer氏は、単一の企業や政府がこうした問題に対処することはできないと語った。

この集まりが最終的に何を変えるかは、こうした発言が出席者を拘束するコミットメントに変わるかどうか、そしてHuang氏が求めたオープンモデル保護が正式なものになるかどうかにかかっている。現時点でサミットの主な成果は、出席した経営者らの文言が揃ったことであり、具体的な措置ではない。