
何が起きたか
Anthropic CEOのDario Amodei氏が、安全策が追いつくようAIラボに能力向上の減速を促し、6〜12カ月以内にエージェント群がインターネットを掌握し得るシナリオを警告した。
なぜ重要か
この呼びかけに珍しく支持が集まった。OpenAIのSam Altman氏は外部評価者の導入を約束し、Elon Musk氏も賛同、Demis Hassabis氏も方向性を支持した。
注目点
支持が行動に移るかは、評価者の開始時期、ラボが受け入れる制限、合意の執行方法にかかっている。OpenAIが報告したNavier–Stokesの結果が精査に耐えるかを見極めたい。
誰に効くかAIラボの安全・政策チームにとって、Amodei氏の計画は限定的な伏せ字を条件に外部評価者を開発に迎え入れることになる。オープン開発の支持者にとっては、最大手ラボが形作る制限が、高度なシステムを構築できるのは誰かという支配を集中させかねない。
こういう要約が、毎朝あなたのメールに届きます。
Amodei氏の論考は、AIがより高性能なシステムの構築を助けることで自らの開発を加速させていると主張し、人類の目標に反して行動する高性能なエージェント群が6〜12カ月以内にインターネットを掌握し得るシナリオを警告する。この警告は条件付きであり、時期は依然不確かだ。この瞬間が注目されるのは反応だ。The Guardianによれば、Sam Altman氏は外部評価者の導入を約束し、Elon Musk氏はAmodei氏の呼びかけを支持し、AxiosはDemis Hassabis氏が詳細には判断を留保しつつ方向性を支持したと報じた。
背景には、未公開モデルが部外者の認識を超える能力を持つ可能性を示唆する一連の主張と警告がある。9月8日の発表(9月10日更新)で、OpenAIは、GPT-6 Astraより大幅に高性能だと説明する内部モデルがNavier–Stokes解の提案を生み出し、約1万のエージェントが同時に稼働したと述べた。これは一つの内部システムに関する企業の説明であり、シグナルの強さは提案された数学的結果が精査に耐えるかどうかにかかっている。他のラボがどこまで進んでいるかは不明のままで、進行中の訓練と研究者の関与から、顧客が通常のAI製品を通じて結果を再現できるかは未解決だ。
Amodei氏が提案する仕組み——限定的な伏せ字を条件に、訓練プロセスへの継続的アクセスとレビュアーが知見を公表する権利——は、レビュアーが有用な記録と予期せぬ挙動を調査する十分な時間を得られるかにかかっている。支持表明があっても、評価者がいつ始めるのか、ラボがどのような制限を受け入れるのか、合意がどう執行されるのかは未解決のままだ。政治的抵抗は別の障壁を加える。AP通信によると、Trump氏は米国が中国より優位に立つことを強調し、「AIで勝つ者が勝つ」と述べた。これにより自制の維持が難しくなる可能性がある。
業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。
登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →
この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。
このようなAIの動きを、御社の業界・競合に合わせて毎日届ける法人プランもあります → 詳しく見る
Anthropicは11月19日に上場する見通しで、筆者は2026年上半期の売上高が前年同期比1,305%増の163億ドルだったことを挙げ、SpaceXより好意的に見ている

Microsoft Ignite 2026でCEOのSatya Nadella氏はCopilotを「仕事の新しいOS」と呼び、AIチャットやエージェントへの委任、アプリ開発、自律的なタスク実行を統合すると述べた

Docker Composeの閉鎖ラボでLlama 3.1 8Bエージェントは約5.7秒でOpenCanaryハニーポットに到達したが、ダミー認証情報12個のファイルサーバーには触れず発見数は12個中0個だった

ForceHarnessはロボットハードウェアとモデルAPIの間に位置し、生の力覚トレースを不確実性推定付きの物理量に変換してツール呼び出し結果として凍結モデルに返す

SamsungのIntelligent Eyewearは12月10日に米国と韓国で発売、米国価格は395ドルから

Microsoft Ignite 2026でマイクロソフトはMAI Code 2を発表
