AIToday
大規模言語モデルAIビジネス・産業THE DECODER掲載日時: 2026年8月15日 4:01

AI研究の自動化、実現遠い 実験が示唆

LINEで送る
AI研究の自動化、実現遠い 実験が示唆

3つのポイント

  1. 何が起きたか

    研究者らがAIエージェントに未発表論文の研究課題を与え、元著者が査読者として評価する「Shadow Evaluation」という新しい手法を開発しました。Claude Opus 4.8を使用し、6日間で3,000ドルのAPI予算とGPU予算を与えた結果、両論文は査読で「強い却下」と「却下」の判定を受けました。

  2. なぜ重要か

    AnthropicやOpenAIは自動AI研究の実現を主張していますが、この研究はそうした主張に対する実証的な反証です。AIは論文執筆などのエンジニアリング作業は問題なく処理できても、研究判断や創意工夫の面で重大な欠陥を示し、査読者から「科学的でない」「恣意的な実験選択」などの指摘を受けました。

  3. 注目点

    AIエージェントは予算の半分以上を使い切らず、新しい研究方向への切り替えに失敗し、10時間以内に最も野心的な目標を放棄するなど、システムレベルの判断能力の不足を露呈しました。研究者らは検証用データ、ログ、エージェントリポジトリをオンラインで公開し、検証の透明性を確保しています。

わからないところ、AIに聞けます

質問と回答はこのページに公開されます。

こういう要約が、毎朝あなたのメールに届きます。

背景と解説

本研究は、AIエージェントによる自動研究に関する業界主張の信頼性に疑問を投げかけています。6月にAnthropicは「AI Builds Itself」というタイトルで研究加速に関する内部データを発表し、開発一時停止のアイデアを浮かべていました。一方、OpenAIはGPT-5.6 Solが小規模モデルの学習後段階を支援し「数週間の時間短縮をもたらした」と主張しましたが、この貢献は81ページのシステムカードに記載されていません。

既存の自動研究の成功主張は、ほぼ完全に論文受理実績に依存していますが、受理されたことだけでは研究品質をほとんど示しません。Sakana AIの「The AI Scientist-v2」は2025年にICLRワークショップに3論文を投稿し、1論文が平均スコア6.33(閾値をわずかに上回る)で受理されましたが、査読後に引用エラーが判明して撤回されました。ワークショップの採択率は60~70%で、主要な学会の20~30%をはるかに上回ります。本研究の「Shadow Evaluation」はこの問題を回避し、評価を元の著者に返すことで、より信頼性の高い判定を実現しています。

よくある質問
この評価方法は従来の方法と何が違いますか?
従来の評価は、ウェブ上で検索可能な既知の課題か、ピアレビューに投稿された論文で測定していました。Shadow Evaluationは、元の論文著者(その課題に数ヶ月費やした人)にAIの成果を査読させることで、より厳密に研究能力を測定します。
AIエージェントはどのような環境で実験を行いましたか?
Claude Opus 4.8を、6日間で3,000ドルのAPI予算とGPU予算を与え、仮想マシンとオープンウェブへの完全アクセスを許可しました。OpenClawという開発者ツールを使い、エージェントがサブエージェントを起動したり、GPU実行を監視したりできるようにしました。
AIがエンジニアリング作業で見せた成功と研究判断での失敗の違いは何ですか?
AIは文献検索、GPUコードのデバッグ、数百の実験実施、LaTeX論文の作成などの技術的作業は人間の介入なしにこなしました。しかし、発表可能な研究の水準を判断できず、初期の仮説が否定されたときに新しい方向を追求せず、査読者の指摘に対応することができませんでした。
LINEで送る

あなたの仕事に関係するAIニュースを、毎朝お届けします。

業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。

登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →

AIに質問

この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。

質問と回答はこのページに公開されます。

関連記事

次の記事へInstagramが新ロゴを公開、ザッカーバーグがAI民主化ビジョン発表