
何が起きたか
NvidiaのIan Buck氏はFully Connectedで、AIファクトリーの経済性はシステム全体で決まると述べ、Blackwellでトークン/ワットが30倍改善したと語った。
なぜ重要か
電力容量がデータセンターの導入量を制限するため、トークン/ワットの改善がAIファクトリーの経済性を左右するとみられる。
注目点
モデルは継続的に更新されるため推論と訓練の境界は曖昧で、顧客が柔軟に構成を選べるかが焦点となる。
誰に効くかAIインフラの調達・運用を担う情報システム部門やデータセンター事業者は、電力制約下でトークン/ワットの効率を重視した機器選定を迫られる可能性がある。
こういう要約が、毎朝あなたのメールに届きます。
NvidiaのIan Buck氏はFully Connectedイベントで、AIファクトリーの経済性がGPUの調達だけでは決まらないと指摘した。エージェント型システムが複数のモデルやデータベース、ツールを利用するようになり、データセンター全体を一つの計算システムとして動かす必要が生じている。同氏は「車やデバイス、PCではなくトークンだ」と述べ、トークンを収益を生み出す資産と位置づけた。
推論はAIファクトリーの商用出力を生むが、訓練を置き換えるものではない。企業はモデルを継続的に更新し、強化学習やオンラインアラインメントの作業が発生する。また、リアルタイム性が価値を持つワークロードでは低遅延が別の経済層を生む。
電力容量がデータセンターの導入量を制限するため、トークン/ワットが中心指標となる。Nvidiaは世代ごとにトークン/ワットを向上させ、Blackwellでは30倍改善した。CoreWeaveは顧客が構成を選べるようにし、パートナーエコシステムの重要性が増している。AIインフラの投資判断では、電力制約下でどれだけ効率的にトークンを生み出せるかが焦点となる。
業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。
登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →
この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。
このようなAIの動きを、御社の業界・競合に合わせて毎日届ける法人プランもあります → 詳しく見る
OneTrustはOneTrust CORIEを基盤とするFall '26リリースを発表し、厳選した基盤モデルライブラリからモデルの関連付けと非推奨指標を継続的に更新するAI台帳を追加した
11月18日の日経「Dialogues on the Future」で、ソフトバンクグループの孫正義氏はAnthropicへの出資見送りを「僕の失敗の一つ」と語った

Cassava TechnologiesがNvidia製チップ購入のため最大10億ドルの調達を検討

Microsoft Ignite 2026でWindows Server 2028のパブリックプレビューが公開され、Microsoft Foundry、Windows ML、vLLM、Llama.cppによるAI推論ホス…

BrightAIがSmith Point Capital主導のラウンドで97百万ドルを調達

AUMOVIOはDatabricks Unity GatewayをLLMへの唯一の経路に採用
