
何が起きたか
英国王室はチャールズ国王が9月17日にDumfries HouseでAIサミットを主催し、Nvidia、Google DeepMind、OpenAI、Anthropicの代表を含む約30人が集まったと発表した。
なぜ重要か
国王はAIを魅力的でありながら深く憂慮すべきものと位置づけ、手遅れになる前に規制が必要だと主張。安全性とオープンモデルへのアクセスを優先課題に挙げた経営者らも同調した。
注目点
企業がこうした安全への誓約を実行に移せるかは具体的なコミットメント次第だ。NvidiaのJensen Huang氏は、十分に安全でなければ製品を出荷すべきではないと述べた。
誰に効くかAIルールを形作る企業リーダーと政府の政策担当者が直接の対象だ。サミットは経営者と当局者を同じ場に集めた。オープンモデルの上に構築する研究者やスタートアップも、オープンアクセス保護が強調されたことで関わりを持つ。
こういう要約が、毎朝あなたのメールに届きます。
このサミットは、本来競合関係にある企業の関係者を一堂に集めた。Nvidia、Google DeepMind、OpenAI、AnthropicがいずれもDumfries Houseに代表を送り、王室の発表では企業名のみが挙げられ個人名は明かされなかった。Bloombergによると、Anthropicのグローバル問題責任者Tino Cuéllar氏が出席し、複数の一対一会談の一つとして国王と非公開で会った。
出席者のメッセージは力点が異なっていた。Jensen Huang氏は製品出荷の前提条件としての安全性と、研究者や大学、スタートアップ、各国が単独の主体では想像できない応用を構築できるオープンモデルの価値に焦点を当てた。Demis Hassabis氏は議論に時間軸を持ち込み、AGIはおそらく数年で実現して産業革命の10倍の影響を持ち、問題が起きる確率は決してゼロではないと述べた。OpenAIのCFO、Sarah Fryer氏は、単一の企業や政府がこうした問題に対処することはできないと語った。
この集まりが最終的に何を変えるかは、こうした発言が出席者を拘束するコミットメントに変わるかどうか、そしてHuang氏が求めたオープンモデル保護が正式なものになるかどうかにかかっている。現時点でサミットの主な成果は、出席した経営者らの文言が揃ったことであり、具体的な措置ではない。
業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。
登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →
この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。
このようなAIの動きを、御社の業界・競合に合わせて毎日届ける法人プランもあります → 詳しく見る
OpenAIはApollo Research、METR、Transluce、Goodfireが同社オフィスで常駐し、未公開モデル、ソースコード、学習データ、監視システムへのアクセスと開発者との非公開協議を行うと発表した

8月下旬ごろから、Artexや同種のAI侵入フレームワークが企業や銀行、政府機関への攻撃に使われ、韓国の金融機関からの窃取との関連も報告されている

The New York Times DealBook SummitでSam Altman氏は意思決定の段階的AI移行を「ひどい考え」だと述べ、人間が未来の制御を握り続ける必要があると語った

シティバンクは今週、オンラインユーザー契約を変更し、第三者のAIツールに口座へのアクセスを許可した顧客が、そのエージェントの行為に責任を負うとした

OpenAIのSam Altman CEOとGreg Brockman社長はThe New York Times DealBook Summitで、先週辞任したNvidiaのJensen Huang氏と私的に話したと明か…

OneTrustはOneTrust CORIEを基盤とするFall '26リリースを発表し、厳選した基盤モデルライブラリからモデルの関連付けと非推奨指標を継続的に更新するAI台帳を追加した