何が起きたか
AnthropicのS-1の93ページ「Risk Factors」は、高い自律性を持つ近未来モデルがAI研究を大幅に自動化し、AIの進歩を評価・保護能力超えて加速させる可能性を警告している。
なぜ重要か
こうした破滅的・存在論的リスクがAnthropic社内や研究者、規制当局、政策立案者から指摘されてきたことを同社が認めており、自社製品が安全策を上回る可能性を自らの提出書類で示している。
こういう要約が、毎朝あなたのメールに届きます。
AnthropicのS-1は、急速に膨らむ収益がさらに高いコストを克服できるかをめぐる議論が活発な中で提出された。提出書類自体は、AIが「世界経済のあらゆるセクターを急速に変革する」として、産業革命や電気、半導体、インターネットを上回る規模になると位置づける一方、同じ文書が93ページ、7万語以上を費やして数百のリスクを論じている。
その大半は競争、コスト、顧客獲得、規制に関する一般的な懸念だ。存在論的シナリオが際立つのは、この懸念が組織内だけでなく、他の研究者、規制当局、政策立案者、業界関係者からも指摘されてきたとAnthropicが述べているためだ。提出書類は、自己改善するシステムが高い自律性で動作することを許されれば同社の安全策を上回るという仮説上の未来を描き、その結果が「当社の事業、財務状態、経営成績に悪影響を及ぼす」可能性もあると記している。
業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。
登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →
この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。
このようなAIの動きを、御社の業界・競合に合わせて毎日届ける法人プランもあります → 詳しく見る
