チャールズ国王、AIの管理を早期に呼びかけ

Dumfries Houseでのチャールズ国王の発言は、内容よりも発信元ゆえに際立つ。王室は憲法上の理由から政治問題に深く踏み込むことを通常慎重に避ける。そしてAIは、同席したNvidiaのJensen Huang氏、OpenAIのCFO Sarah Friar氏、AnthropicのTino Cuéllar氏ら経営陣の間で最も議論が割れるテーマの一つだ。国王自身もこの緊張を認め、技術開発を「興味深くもあり、深く憂慮すべきものでもある」と評した。AIの「より暗い能力」への警告は、Anthropicの研究者が退職し、AI企業は「人類よりはるかに賢い機械の構築を競っており」、人類は「これを生き延びられないかもしれない」とオンラインに記したわずか数日後に発せられた。

タイミングは、本文が示すより広い分裂も反映している。今月、OpenAIのSam Altman氏、Elon Musk氏、AnthropicのDario Amodei氏はAI開発の減速を求めたが、NvidiaのHuang氏とDonald Trump大統領はすぐにこれを否定した。チャールズ国王の国際協力と合意の呼びかけは、Anthropicが自社のFableとMythosモデルへのアクセスを米国顧客のみに制限すると決めたことと時を同じくする。これは欧州のテック界に衝撃を与え、多くの人にAI主権を考えさせた。国王がAIについて語るのは2023年と2024年に続き初めてではない。

今後の展開は不明だ。チャールズ国王は約20分で退席し、出席者に議論を委ねた。締めの言葉は、課題は「単に技術を進歩させることではなく、人類、共同体、そして自然世界にしっかり奉仕し続けることを確実にすることだ」というもので、仕組みではなく願いを掲げたものだった。それが具体的な協調につながるかは、業界内の利害対立とOpenAIの停滞したIPO計画がどう展開するかにかかっているかもしれない。