AIToday
AIビジネス・産業SiliconANGLE AI掲載日時: 2026年10月2日 4:00

NvidiaのBuck氏、Blackwellでトークン/ワット30倍改善

LINEで送る
NvidiaのBuck氏、Blackwellでトークン/ワット30倍改善

3つのポイント

  1. 何が起きたか

    NvidiaのIan Buck氏はFully Connectedで、AIファクトリーの経済性はシステム全体で決まると述べ、Blackwellでトークン/ワットが30倍改善したと語った。

  2. なぜ重要か

    電力容量がデータセンターの導入量を制限するため、トークン/ワットの改善がAIファクトリーの経済性を左右するとみられる。

  3. 注目点

    モデルは継続的に更新されるため推論と訓練の境界は曖昧で、顧客が柔軟に構成を選べるかが焦点となる。

誰に効くかAIインフラの調達・運用を担う情報システム部門やデータセンター事業者は、電力制約下でトークン/ワットの効率を重視した機器選定を迫られる可能性がある。

わからないところ、AIに聞けます

質問と回答はこのページに公開されます。

こういう要約が、毎朝あなたのメールに届きます。

背景と解説

NvidiaのIan Buck氏はFully Connectedイベントで、AIファクトリーの経済性がGPUの調達だけでは決まらないと指摘した。エージェント型システムが複数のモデルやデータベース、ツールを利用するようになり、データセンター全体を一つの計算システムとして動かす必要が生じている。同氏は「車やデバイス、PCではなくトークンだ」と述べ、トークンを収益を生み出す資産と位置づけた。

推論はAIファクトリーの商用出力を生むが、訓練を置き換えるものではない。企業はモデルを継続的に更新し、強化学習やオンラインアラインメントの作業が発生する。また、リアルタイム性が価値を持つワークロードでは低遅延が別の経済層を生む。

電力容量がデータセンターの導入量を制限するため、トークン/ワットが中心指標となる。Nvidiaは世代ごとにトークン/ワットを向上させ、Blackwellでは30倍改善した。CoreWeaveは顧客が構成を選べるようにし、パートナーエコシステムの重要性が増している。AIインフラの投資判断では、電力制約下でどれだけ効率的にトークンを生み出せるかが焦点となる。

よくある質問
AIファクトリーの商用出力は何から生まれますか?
展開済みモデルがリクエストを処理しトークンを生成する推論から生まれる。
Blackwellでトークン/ワットはどれだけ改善しましたか?
Buck氏によると、最終的に30倍改善した。
CoreWeaveは顧客に何を提供していますか?
顧客が構成を選べるようにし、スループットとトークン速度のバランスを最適化する高レベル推論サービスを提供している。
SiliconANGLE AI元記事を読む
LINEで送る

あなたの仕事に関係するAIニュースを、毎朝お届けします。

業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。

登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →

AIに質問

この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。

質問と回答はこのページに公開されます。

このようなAIの動きを、御社の業界・競合に合わせて毎日届ける法人プランもあります → 詳しく見る

関連記事

次の記事へ中国OSAT、26年にクラウドAIの13%へ