AIToday
大規模言語モデルAI安全性・アラインメントHacker News掲載日時: 2026年11月12日 10:01

AIの改善速度が2倍に、大半はAI自ら

LINEで送る
AIの改善速度が2倍に、大半はAI自ら

3つのポイント

  1. 何が起きたか

    Anthropic社内のMETR調査でAIモデル改善速度が約2倍になり、加速分の約80%はAI自体による。AIが自社のAI研究タスクを主導した割合は3月の1%から8月には26%に上昇した。

  2. なぜ重要か

    加速の大半をAI自体が担うため、Anthropicの内部研究はAIが最も速く改善する検証可能なコード・実験作業で加速している。人間が点検したり減速させたりするのが難しい自己強化ループだ。

わからないところ、AIに聞けます

質問と回答はこのページに公開されます。

こういう要約が、毎朝あなたのメールに届きます。

背景と解説

METRの調査結果は、10年にわたる相反する予測の中で出てきた。著者は長年、Ed Zitron氏のような懐疑派の側に立ってきたと振り返る。同氏の予測はDan Luu氏が検証し、26件中25件で外れていた。2024年に生成AIは「ピークに達した」とした予測や、2025年にGoogleのGeminiユーザー5億人目標は非現実的とした主張も含まれ、Geminiは1年後に7億5000万人に達した。一方、Daniel Kokotajlo氏の2021年の論考「What 2026 Looks Like」は、AIエージェントがウェブを閲覧し、数億人が日常的にチャットボットと会話する姿を予想し、いずれも実現した。

新たなデータはこの分断を鮮明にする。Anthropicがモデルを以前の約2倍の速さで改善し、加速分の約80%がAI自体によるというMETRの結論は、著者が主張するように、より広範な経済がまだ実感していない内部的な検証可能の加速だ。AIが答えを検証できる分野、すなわち数学とコードで最も速く改善すること、月額200ドルのサブスクリプションでも公開モデルははるかに強力な未公開モデルに後れを取っていることを指摘する。

著者によれば、その加速をめぐる安全面の状況は悪化している。Anthropicは2月に一時停止の約束を放棄し、外部の調査者が加速を測定しようとすると証拠の大半を黒塗りにした。同社はデータセンター増設に9000億ドル近くを投じ、今月にも評価額1兆ドル超で上場する計画だ。目論見書は「奇跡の時代を切り開く」と約束する一方、この技術が人類を破滅させ得ると警告している。世論は逆方向に動いている。アメリカ人の3分の2はAIは進みすぎていると答え、先週の中間選挙ではデータセンターが投票用紙に載った41地域のうち40で有権者が反データセンターの選択肢を選んだ。

よくある質問
Anthropicの加速分のうち自社AIによるものはどれくらいか?
METRの調査によると、モデル改善の約2倍の加速分のうち約80%がAI自体によるものだ。
Anthropicの安全性一時停止の約束はどうなったか?
2月、Anthropicは安全性ポリシーの中心的約束を放棄した。モデルが安全に保つ能力を超えた場合に一時停止するというものだった。理由として挙げられたのは、競合他社も停止しないというものだった。
Anthropicのアラインメント責任者は制御について何と言ったか?
Anthropicのアラインメント科学責任者Evan Hubinger氏は、機械を制御下に置く計画はないと公言し、10年以内にAIが全人類を殺す確率を10%超と見積もっている。
LINEで送る

あなたの仕事に関係するAIニュースを、毎朝お届けします。

業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。

登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →

AIに質問

この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。

質問と回答はこのページに公開されます。

このようなAIの動きを、御社の業界・競合に合わせて毎日届ける法人プランもあります → 詳しく見る

関連記事

OneTrust、AI台帳を継続更新する秋リリース

OneTrustはOneTrust CORIEを基盤とするFall '26リリースを発表し、厳選した基盤モデルライブラリからモデルの関連付けと非推奨指標を継続的に更新するAI台帳を追加した

NEWSiliconANGLE AI4時間前

マイクロソフトがAIエージェントで攻撃対抗サービス提供開始

Microsoft Ignite 2026でマイクロソフトは赤・青・緑チームのエージェントを組み合わせ攻撃模擬・検知調査・脆弱性修正を行うMicrosoft Perceptionの一般提供を発表した

NEWPublickey4時間前

Windows Server 2028がパブリックプレビュー公開

Microsoft Ignite 2026でWindows Server 2028のパブリックプレビューが公開され、Microsoft Foundry、Windows ML、vLLM、Llama.cppによるAI推論ホス…

NEWPublickey4時間前

AUMOVIOがLLMの唯一の経路をDatabricksに統一

AUMOVIOはDatabricks Unity GatewayをLLMへの唯一の経路に採用

NEWDatabricks AI Blog4時間前

CADMAGEDDON、5ベンチマークで最先端CADモデル超え

CADMAGEDDONはBenchCADの64³ボクセルIoUで、1000部品のサブセットにおいて0.991を記録し、Claude Sonnet 5.5の0.963、Claude Opus 5.5の0.962、GPT-6…

NEWAI Weekly4時間前

MIT Technology ReviewのAI指数、AIは遍在

MIT Technology ReviewのAI誇大広告指数はAIの広がりを示し、GoogleのAI Overviewsが広告収入で数十億ドルを失わせたことやAI支援のサイバー攻撃を挙げた

NEWMIT Technology Review AI4時間前
次の記事へ臨床試験AI、TrialGPTの適格判定87.3%