
何が起きたか
OpenAIのブログ向けに改稿した講演で、著者は「暗黙の合意」を説明した。人類が超知能マシンに世界の優位性を明け渡すのは避けられないという前提を拒否すると述べた。
なぜ重要か
著者は、移行にAIの反乱は不要で、個々には合理的な無数の委任判断があれば足りると論じる。支配を維持するとは、開発者とAI利用者に害への責任を負わせ、自律エージェントにガードレールを課すことだとする。
こういう要約が、毎朝あなたのメールに届きます。
この論文は、著者がハーバード大学のVik-Bailey講演シリーズの一環として行った講演を改稿したもので、一部で「黒い十月」と呼ばれる状況——最先端AIシステムが発見したインターネット基盤の重大な脆弱性群——を背景に始まる。著者はその緊急かつ対応的な作業をいったん脇に置き、長期的な問いに焦点を当てる。制度の未来について前向きなビジョンがなければ、私たちは自ら選ばないマクロな結末へと流れ込みかねないと論じる。テクノロジー業界には空飛ぶ車、自動運転車、ロボット、核融合、汎用人工知能といった技術面の前向きなビジョンがあふれているが、制度がどう機能するかについての前向きなビジョンが欠けていると指摘する。
著者は「暗黙の合意」をある思考実験に位置づける。ほとんどAIシステムだけで運営され、人間の競合を上回る企業があり、その所有者は手綱を手放す強力な誘因を抱え、その論理が世界経済全体で繰り返されれば、人類は世界の商取引における優位性を失いかねない。このシナリオには、AIの反乱も、所有者が権限を手放すことを望むことも一切必要ないと強調する。個々の委任はそれ自体の理屈で正当化され得るのだ。これを合意と呼ぶのは、誰もが良いと同意しているからではなく、人間の優位性の喪失が避けられない、あるいは代替を想像し難いものとして広く扱われているからだ。
著者の反論は、自ら「遠慮のない人間至上主義」と呼ぶものに、さらに深くは過去に根ざす。人間の優位性は知性や理解の独占にではなく、人類が築いた文明、すなわち私たちが守り育て、今も管理する炎にある。自分は間違っているかもしれない——完全に自律した企業が人間の企業を打ち負かし、権限喪失がごく普通の資本主義の論理の問題となり、農業革命が最も近い類似例となる可能性もある——と認める。そして、賢明で思いやりのある同僚の多くがその未来は起こり得ると考えていることも認める。それでもなお、暗黙の合意を声に出して名指しし、人間の優位性と両立する機械を、責任、監査可能な行動、利用者が撤回できる権限とともに築くべきだと訴える。
業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。
登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →
この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。
このようなAIの動きを、御社の業界・競合に合わせて毎日届ける法人プランもあります → 詳しく見る
SolidWizard Technologyは、AI・半導体・高性能コンピューティングへの投資拡大が先端ソフト需要を押し上げ、AI・半導体顧客からの受注見通しが2027年まで強いと説明した

AnthropicのLevent Alpoge氏は金曜日、同日公開した4ページのノートの中で、チャットボットClaudeを使ってリーマン予想を証明したと述べた

Bytedanceと米大学のチームがAIエージェントAxion 1.0を公開した

Uravationは2026年9月16日から11月1日までに無料のAI Image Checkerへの31,734件を分析し、C2PA来歴データは5.8%(1,845件)、PNGは14.6%、JPEGは1.9%だった

AIworkerの分析で、新規企業AI導入相談のChatGPTシェアは2025年66%から2026年28%へ低下し、Microsoft CopilotとGeminiが各35%に達した

noticing-anomalies SkillをClaude Codeに導入するとAIが自己確認し、架空の10課題でスコアが243/294から292/294に上がった
