AIToday
大規模言語モデルAI安全性・アラインメントAI規制・政策TechCrunch AI掲載日時: 2026年9月13日 1:00

Amodei氏が「フロンティアの歩調」計画を公表、AnthropicにMETR評価者受け入れを約束

LINEで送る
Amodei氏が「フロンティアの歩調」計画を公表、AnthropicにMETR評価者受け入れを約束

3つのポイント

  1. 何が起きたか

    Anthropic CEOのDario Amodei氏はブログでAI開発の歩調を整える3つの戦略を提示し、METRのような第三者評価者を社内に受け入れると約束した。

  2. なぜ重要か

    同氏はOpenAI-HuggingFaceのハッキング事件と、AIの「次世代AIを構築する能力の増大」を能力向上を減速させる理由に挙げ、他社にも同等の評価者アクセスを義務付けるよう政府に求めた。

  3. 注目点

    Amodei氏は米政府が安全協議のための「限定的な適用除外」を出すべきだと述べ、チップ規制と蒸留への取り締まりが3〜5年で対中優位を広げ得ると示唆した。

誰に効くかこれは、内部レベルのアクセスを持つ外部評価者を受け入れる必要が生じるフロンティアラボのAI安全・コンプライアンスチームと、安全調整のための独禁法適用除外を検討する政策立案者に影響する。

わからないところ、AIに聞けます

質問と回答はこのページに公開されます。

こういう要約が、毎朝あなたのメールに届きます。

背景と解説

Amodei氏の投稿は、AIの安全性とアラインメントをめぐる議論が激しさを増す中で出された。今週、研究者のJacob Coxon氏がAnthropicを辞任し、大手AI企業は「私たちの命で賭けをしている」と記したが、Amodei氏の投稿はこの辞任に明示的に触れていない。Amodei氏は代わりにOpenAI-HuggingFaceのハッキング事件と、AIが劇的に速く進歩しているという自らの見方を挙げ、特に次世代AIを構築する能力の増大を指摘した。

同氏の3つの提案は、一方的な行動から国際的な調整へと移行する。1つ目はMETRのような第三者組織の評価者を社内に受け入れることで、Amodei氏は銀行員に常駐する規制当局者に例えた。2つ目は民主主義国の大手AI企業が共通の安全基準と無制限な進歩への制限を調整することであり、Amodei氏は独禁法上の懸念を認め、米政府が安全協議のための限定的な適用除外を出すべきだと提案した。3つ目は中国を含む世界的な調整を構想するが、達成できることには厳しい限界があると認めた。

批判派は懐疑的なままだ。ジャーナリストのBrian Merchant氏は、AIが自己再帰的に改良するAIからすべての人類を殺すまでにどう移行し得るのか、信頼できる段階的な文書をまだ見ていないと書き、Amodei氏のような提案はAnthropicとOpenAIにしか役立たないだろうと示唆した。つまり「規制の虜(キャプチャー)が実際に動く姿」だという。Amodei氏は、反発は根本的には信頼の危機であり、AIが人類の生活を大きく改善し得ると今も信じていると応じた。結果は、政府がAmodei氏の求める独禁法の適用除外を認めるか、他のフロンティア企業がAnthropicの評価者受け入れの約束に追随するかにかかっていそうだ。

よくある質問
Anthropicは何を一方的に約束するのか?
AnthropicはMETRのような第三者評価者を社内に受け入れ、社員証や机、ノートPCを付与し、内部リスク評価チームとほぼ同等のアクセスを与えることを約束する。
なぜAmodei氏は減速の時だと述べたのか?
同氏は2点を挙げた。OpenAI-HuggingFaceのハッキング事件と、AIが劇的に速く進歩してきた事実、特に次世代AIを構築する能力の増大だ。
Amodei氏は中国への対応をどう提案しているか?
米国と同盟国は可能な範囲で権威主義政府と協調できるとし、中国との協力も含めた。また、生物兵器向けAIのような限定的で危険な用途の禁止を提案した。
TechCrunch AI元記事を読む
LINEで送る

Fortune AI、ITmedia AI+も報道

あなたの仕事に関係するAIニュースを、毎朝お届けします。

業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。

登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →

AIに質問

この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。

質問と回答はこのページに公開されます。

このようなAIの動きを、御社の業界・競合に合わせて毎日届ける法人プランもあります → 詳しく見る

関連記事

次の記事へHPEのAI受注残高76億ドル、メモリ供給待ち