AIToday
大規模言語モデルTHE DECODER掲載日時: 2026年7月4日 4:00

AI評価の固定予算では実力を過小評価 英国セキュリティ研究所が指摘

LINEで送る
AI評価の固定予算では実力を過小評価 英国セキュリティ研究所が指摘

3つのポイント

  1. 何が起きたか

    英国AI Security Institute(AISI)は、複数のベンチマークテストでAIエージェント(自動で判断して作業するAI)の性能を調べました。結果、テスト時のコンピュータ処理量(トークン予算)を増やすほど、エージェントの成功率が大幅に上がることが分かりました。たとえばソフトウェア開発タスクでは、予算を100万トークンから1000万トークンに増やすと、成功率が約25%向上しました。

  2. なぜ重要か

    現在のAI評価は固定された予算上限で測定されているため、実際のAIの能力より低く見積もられている可能性があります。サイバーセキュリティのタスクでは、全体の約8%が1000万トークンを超える予算でしか解けませんでした。評価の方法によって、AIの導入判断や経済的価値の見積もりに大きな影響が出ることになります。

  3. 注目点

    新しいモデルほど追加予算の効果が大きく、最新モデルのタスク実行時間は250万トークン予算で約40分でしたが、5000万トークンで約4時間に伸びました。AISIは今後、複数の異なる予算レベルでモデルをテストする方針を取っています。

わからないところ、AIに聞けます

質問と回答はこのページに公開されます。

こういう要約が、毎朝あなたのメールに届きます。

よくある質問
人間の専門家がかかる時間とAIのトークン消費の関係は?
調査によると、1分で終わるタスクはエージェントに数千トークン、1時間のタスクは数百万トークン、1週間のタスクは数十億トークン必要という、べき乗則に従う関係が見られました。
新しいモデルと古いモデルでは予算の恩恵に差がある?
新しいモデルは追加予算からより大きな利益を得ます。新世代では、より難しいタスクが解けるようになり、同じタスクをより確実に解け、必要なトークン数が減る傾向が見られました。
医療タスク(HealthBench)でも予算を増やすと性能が上がる?
いいえ、医療タスクではすべてのモデルが標準予算内で性能の頭打ちに達しました。追加予算の効果は、コード実行やエクスプロイト検証など自分の成果を確認できるタスクで顕著です。
LINEで送る

あなたの仕事に関係するAIニュースを、毎朝お届けします。

業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。

登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →

AIに質問

この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。

質問と回答はこのページに公開されます。

関連記事

次の記事へAIエージェント、定型業務を超えた自動化へ 企業の導入事例相次ぐ