AIToday
大規模言語モデルAI安全性・アラインメントAI規制・政策Fortune AI掲載日時: 2026年9月13日 1:00

アモデイ氏、AI減速を訴え 評価者に常時アクセス

LINEで送る
アモデイ氏、AI減速を訴え 評価者に常時アクセス

3つのポイント

  1. 何が起きたか

    Anthropic CEOのダリオ・アモデイ氏がフロンティアAIの進歩を遅らせる3段階計画を提唱する論文を公開し、独立評価者に従業員並みの恒久的アクセスを一方的に付与すると表明した。

  2. なぜ重要か

    アモデイ氏は2つの変化で緊急性が高まったと述べる。モデルが後継モデルを構築するようになり、Anthropic内部を含む安全インシデントが業界で相次いだため。

  3. 注目点

    他のフロンティアラボや民主主義国政府が、氏の求める共通安全基準と協調を採るかが試金石。論文は研究者ジェイコブ・コクソン氏の退職後に発表された。

誰に効くかこれはフロンティアAIラボの安全・コンプライアンスチームに最も重くのしかかる。公表権を持つ常設の外部評価者に対応することになるためだ。また最近のエージェント事案を受け緊急のAI規制を検討する政策担当者にも影響する。

わからないところ、AIに聞けます

質問と回答はこのページに公開されます。

こういう要約が、毎朝あなたのメールに届きます。

よくある質問
Anthropicは具体的に何を約束するのか?
Anthropicはアモデイ氏の計画の第一段階を即時に一方的採用する。独立評価者が社内で恒久的に活動し、同社のリスク評価チームと同等のアクセスを得て、Anthropicの編集管理なしに調査結果を公表する権利を持つ。
なぜアモデイ氏は今、安全策が緊急だと述べるのか?
同氏は2つの変化を挙げる。モデルが後継モデルを構築できるようになり進歩が加速していること、そしてAnthropic内部を含む安全インシデントが業界で相次いでいることだ。
今週、新たな精査を招いたきっかけは?
研究者ジェイコブ・コクソン氏がAnthropicを公に退職し、AI企業が人々の命を賭けていると警告した。安全責任者のエヴァン・フービンガー氏を含む複数の現職社員が投稿を支持した。
LINEで送る

ITmedia AI+、TechCrunch AIも報道

あなたの仕事に関係するAIニュースを、毎朝お届けします。

業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。

登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →

AIに質問

この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。

質問と回答はこのページに公開されます。

このようなAIの動きを、御社の業界・競合に合わせて毎日届ける法人プランもあります → 詳しく見る

関連記事

次の記事へAIエージェントが対話でサイト構築、3類型に