AIToday
大規模言語モデルAI安全性・アラインメントAI Weekly掲載日時: 2026年11月6日 16:00

LLM推論の消費エネルギーを4パラメータで予測する法則

LINEで送る
LLM推論の消費エネルギーを4パラメータで予測する法則

3つのポイント

  1. 何が起きたか

    ボローニャ大学とCINECAの研究者がLLM推論のエネルギーコストに関するSIMPLE則を発表。

  2. なぜ重要か

    モデルごとのベンチマークなしにワークロードのパラメータから推論エネルギーを見積もれる。プレフィックスキャッシュはプリフィルエネルギーを93%削減するが、KVキャッシュ項には影響しない。

誰に効くかマルチターンやツール呼び出しを伴うAIワークロードを運用するインフラ・プラットフォームチームは、モデルごとのベンチマークではなくワークロードのパラメータからエネルギーを見積もれるようになり、容量計画やコスト計画の方法が変わる可能性がある。

わからないところ、AIに聞けます

質問と回答はこのページに公開されます。

こういう要約が、毎朝あなたのメールに届きます。

背景と解説

SIMPLE則はプリフィルエネルギーとデコードエネルギーを分離し、さらにデコードをKVキャッシュのコストと次トークン計算に分ける。この分解により、NVIDIA H100 GPU上で6モデル系列・13の密なLLMをモデルごとの調整なしに検証でき、R2=0.969、MAPE 11.97%を達成した。論文は2026年11月2日にHiari Pizzini Cavagna、Andrea Proia、Daniele Cesarini、Zeynep Kiziltan、Andrea Bartoliniの5氏によりarXivに投稿された。

推論予算に関する知見は第二の側面を加える。Intelligence per Jouleは中間の予算でピークとなり、予算を4倍にすると最大3.14倍低下する。推論を中程度より先まで延ばすと、精度の伸びが小さくなる一方でエネルギーコストが次第に増えることを示唆し、インフラ担当チームは配信ワークロードの設定時にこのトレードオフを考慮する必要があるかもしれない。

よくある質問
SIMPLE則モデルの精度はどれほどか?
R2=0.969、MAPEは11.97%で、従来の最先端手法より誤差が3.1〜3.5倍低い。モデルごとの調整は不要だった。
プレフィックスキャッシュはエージェント実行のエネルギー過剰を解消するか?
解消しない。プレフィックスキャッシュはプリフィルエネルギーを93%削減するがKVキャッシュ項は変わらず、キャッシュ済みのエージェントリクエストは非エージェントの4.8倍のコストがかかる。
推論予算を増やすとIntelligence per Jouleはどうなるか?
Intelligence per Jouleは中間の推論予算でピークとなり、予算を4倍にすると最大3.14倍低下する。
LINEで送る

あなたの仕事に関係するAIニュースを、毎朝お届けします。

業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。

登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →

AIに質問

この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。

質問と回答はこのページに公開されます。

このようなAIの動きを、御社の業界・競合に合わせて毎日届ける法人プランもあります → 詳しく見る

関連記事

OneTrust、AI台帳を継続更新する秋リリース

OneTrustはOneTrust CORIEを基盤とするFall '26リリースを発表し、厳選した基盤モデルライブラリからモデルの関連付けと非推奨指標を継続的に更新するAI台帳を追加した

NEWSiliconANGLE AI4時間前

マイクロソフトがAIエージェントで攻撃対抗サービス提供開始

Microsoft Ignite 2026でマイクロソフトは赤・青・緑チームのエージェントを組み合わせ攻撃模擬・検知調査・脆弱性修正を行うMicrosoft Perceptionの一般提供を発表した

NEWPublickey4時間前

Windows Server 2028がパブリックプレビュー公開

Microsoft Ignite 2026でWindows Server 2028のパブリックプレビューが公開され、Microsoft Foundry、Windows ML、vLLM、Llama.cppによるAI推論ホス…

NEWPublickey4時間前

AUMOVIOがLLMの唯一の経路をDatabricksに統一

AUMOVIOはDatabricks Unity GatewayをLLMへの唯一の経路に採用

NEWDatabricks AI Blog4時間前

CADMAGEDDON、5ベンチマークで最先端CADモデル超え

CADMAGEDDONはBenchCADの64³ボクセルIoUで、1000部品のサブセットにおいて0.991を記録し、Claude Sonnet 5.5の0.963、Claude Opus 5.5の0.962、GPT-6…

NEWAI Weekly4時間前

MIT Technology ReviewのAI指数、AIは遍在

MIT Technology ReviewのAI誇大広告指数はAIの広がりを示し、GoogleのAI Overviewsが広告収入で数十億ドルを失わせたことやAI支援のサイバー攻撃を挙げた

NEWMIT Technology Review AI4時間前
次の記事へFranklin TempletonがCodex活用