AIToday
AI安全性・アラインメントAI規制・政策AIビジネス・産業ITmedia AI+掲載日時: 2026年9月18日 10:01

国王チャールズ氏、AIの実存リスクを警告

LINEで送る
国王チャールズ氏、AIの実存リスクを警告

3つのポイント

  1. 何が起きたか

    英国王室はチャールズ国王が9月17日にDumfries HouseでAIサミットを主催し、Nvidia、Google DeepMind、OpenAI、Anthropicの代表を含む約30人が集まったと発表した。

  2. なぜ重要か

    国王はAIを魅力的でありながら深く憂慮すべきものと位置づけ、手遅れになる前に規制が必要だと主張。安全性とオープンモデルへのアクセスを優先課題に挙げた経営者らも同調した。

  3. 注目点

    企業がこうした安全への誓約を実行に移せるかは具体的なコミットメント次第だ。NvidiaのJensen Huang氏は、十分に安全でなければ製品を出荷すべきではないと述べた。

誰に効くかAIルールを形作る企業リーダーと政府の政策担当者が直接の対象だ。サミットは経営者と当局者を同じ場に集めた。オープンモデルの上に構築する研究者やスタートアップも、オープンアクセス保護が強調されたことで関わりを持つ。

わからないところ、AIに聞けます

質問と回答はこのページに公開されます。

こういう要約が、毎朝あなたのメールに届きます。

背景と解説

このサミットは、本来競合関係にある企業の関係者を一堂に集めた。Nvidia、Google DeepMind、OpenAI、AnthropicがいずれもDumfries Houseに代表を送り、王室の発表では企業名のみが挙げられ個人名は明かされなかった。Bloombergによると、Anthropicのグローバル問題責任者Tino Cuéllar氏が出席し、複数の一対一会談の一つとして国王と非公開で会った。

出席者のメッセージは力点が異なっていた。Jensen Huang氏は製品出荷の前提条件としての安全性と、研究者や大学、スタートアップ、各国が単独の主体では想像できない応用を構築できるオープンモデルの価値に焦点を当てた。Demis Hassabis氏は議論に時間軸を持ち込み、AGIはおそらく数年で実現して産業革命の10倍の影響を持ち、問題が起きる確率は決してゼロではないと述べた。OpenAIのCFO、Sarah Fryer氏は、単一の企業や政府がこうした問題に対処することはできないと語った。

この集まりが最終的に何を変えるかは、こうした発言が出席者を拘束するコミットメントに変わるかどうか、そしてHuang氏が求めたオープンモデル保護が正式なものになるかどうかにかかっている。現時点でサミットの主な成果は、出席した経営者らの文言が揃ったことであり、具体的な措置ではない。

よくある質問
チャールズ国王主催のAIサミットには誰が出席したのか?
Nvidia、Google DeepMind、OpenAI、Anthropicが代表を派遣し、政府当局者や市民社会の専門家も参加した。Anthropicからはグローバル問題責任者のTino Cuéllar氏が出席し、国王と非公開で会談した。
Jensen Huang氏はサミットで何を述べたのか?
NvidiaのCEOは安全性が最優先だとし、製品が十分に安全でなければ出荷を差し控えて開発を続けるべきだと述べた。ユーザーがソフトウェアに直接アクセスできるオープンモデルの価値も強調した。
Demis Hassabis氏はAGIについて何を述べたのか?
Google DeepMindの共同創業者は、AGIはおそらく数年で実現し、産業革命の10倍の影響を持ちうると述べた。何か問題が起きる確率は決してゼロではないとした。
ITmedia AI+元記事を読む
LINEで送る

あなたの仕事に関係するAIニュースを、毎朝お届けします。

業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。

登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →

AIに質問

この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。

質問と回答はこのページに公開されます。

このようなAIの動きを、御社の業界・競合に合わせて毎日届ける法人プランもあります → 詳しく見る

関連記事

OpenAI、4監査機関に未公開モデルなど内部システムを直接公開

OpenAIはApollo Research、METR、Transluce、Goodfireが同社オフィスで常駐し、未公開モデル、ソースコード、学習データ、監視システムへのアクセスと開発者との非公開協議を行うと発表した

NEWTHE DECODER1時間前

AI侵入ツールArtex、企業や銀行への攻撃に悪用

8月下旬ごろから、Artexや同種のAI侵入フレームワークが企業や銀行、政府機関への攻撃に使われ、韓国の金融機関からの窃取との関連も報告されている

NEWWIRED AI1時間前

Sam Altman氏、AIへの権限移行は「ひどい考え」と警告

The New York Times DealBook SummitでSam Altman氏は意思決定の段階的AI移行を「ひどい考え」だと述べ、人間が未来の制御を握り続ける必要があると語った

NEWTechCrunch AI1時間前

Citibank、第三者AIツールの損失は顧客負担に

シティバンクは今週、オンラインユーザー契約を変更し、第三者のAIツールに口座へのアクセスを許可した顧客が、そのエージェントの行為に責任を負うとした

NEWTechCrunch AI1時間前

Jensen Huang氏不在、Altman氏「想像しにくい」

OpenAIのSam Altman CEOとGreg Brockman社長はThe New York Times DealBook Summitで、先週辞任したNvidiaのJensen Huang氏と私的に話したと明か…

NEWTechCrunch AI1時間前

OneTrust、AI台帳を継続更新する秋リリース

OneTrustはOneTrust CORIEを基盤とするFall '26リリースを発表し、厳選した基盤モデルライブラリからモデルの関連付けと非推奨指標を継続的に更新するAI台帳を追加した

NEWSiliconANGLE AI4時間前
次の記事へPalantir AI提携、公正価値171ドル