
何が起きたか
Anthropic CEOのDario Amodei氏が9月12日、「We Must Pace the Frontier」と題した3,800語の論考を公開し、AIモデルの性能向上の速さを業界が緩めるよう求めた。
なぜ重要か
Amodei氏はこうしたリスクを管理する仕組みとして、外部監視、ラボ間の連携、国際協力を提案した。
こういう要約が、毎朝あなたのメールに届きます。
Amodei氏の論考は、AIの最も破滅的なシナリオをどこまで真剣に受け止めるべきかをめぐる広範な議論の中で出された。ニューヨーカー誌のコラムニストでジョージタウン大学教授のCal Newport氏ら批評家は、シリコンバレーの終末論を「大量不安の武器」と評し、コンピューター科学ではなく15年前のイデオロギー的コミュニティに根ざしていると指摘する。フィナンシャル・タイムズのコラムニストJanan Ganesh氏は10月10日、過去のパニックは具体的な出来事に基づいていたと述べ、警鐘はほぼ毎回脅威を先取りしすぎたと書いた。プリンストン大学教授Arvind Narayanan氏と同僚のSayash Kapoor氏は「AI as Normal Technology」で、AIは既に道筋のある過去の革命的技術に似ていると論じた。しかしAnthropicの警告は正式なIPO目論見書に記されている——投資家が哲学的思索ではなく深刻な法的開示として読む可能性のある文書だ。
論考の発表時期がAnthropicのIPO計画と重なる点は注目に値する。Anthropic自身が競い進む進歩そのものに減速を求める3,800語の呼びかけは、同社が安全性のメッセージと商業的野心をどう両立させるかという疑問を呼びかねない。同時に、Amodei氏が外部監視と国際協力を支持する姿勢は、核技術管理の過去の提案と重なる。同氏は新入社員に『The Making of the Atomic Bomb』を推薦する際にこの比較を以前から持ち出している。公開討論が決着する見込みは薄いが、Amodei氏の論考は、節目となる財務イベントを前に、業界で最も声高な安全性の擁護者の一人を明確に記録に残した。
業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。
登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →
この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。
このようなAIの動きを、御社の業界・競合に合わせて毎日届ける法人プランもあります → 詳しく見る
カリフォルニア州のSB 1047とSB 53の起草者Scott WienerがNancy Pelosiの空席となったサンフランシスコの議席を巡る接戦を制し、議会はAIリスクに断固取り組む必要があると述べた

InstagramはテキストプロンプトからStories用のカスタムフィルターを作れるEffect Builderを公開した

Mediumは執筆アプリTKを公開した

Financial Timesが金曜日に報じたところによると、ジェンスン・フアン氏はMegaspeed元幹部のアリス・フアン氏と不倫関係にあり、日曜の社内メモで認めて謝罪した

司法省は11月5日、外国政府主体や犯罪組織によるAI悪用への取り締まりを調整する超知能タスクフォースを発表し、1月設置のAI訴訟タスクフォースを吸収した

トランプ氏は『60 Minutes』で、AIの安全リスクは経営者が言うほど「現実的ではない」と述べ、司法省が「大手の一つ」の匿名の指導者に「刑務所に入る準備をしろ」と伝えたと明かした
