
エージェンティック推論(長時間実行される AI エージェントタスク)は、データセンターアーキテクチャを生の計算速度への注力からストレージ、メモリ、電力効率へと再構成している。
Solidigm、AMD、Tensordyne、d-Matrix を含む複数企業が RAISE Summit で、GPU へのデータ配信、電力消費、異種コンピューティングのボトルネックに対応したソリューションを発表した。
このシフトはまた資本制約とデータ主権をインフラストラクチャの課題として浮き彫りにしており、Argentum AI と Neo4j のような企業がハードウェアに加えて資金調達とガバナンスのソリューションを提供している。
何が起きたか
RAISE Summitで、インフラストラクチャ業界のリーダーが、長時間実行されるAIエージェントタスクであるエージェンティック推論が、ストレージ、メモリ、電力消費に新たなボトルネックを生み出していることを明らかにした。Solidigmの Greg Matson は、ストレージが重要経路に入り、「システムのメモリを拡張する全く新しいストレージ層」が生成されていると説明した。AMD は個別チップではなく CPU、GPU、ネットワーク全体で最適化を実施。Tensordyne の Napier 推論チップは対数数学を使用して電力消費を 30 キロワットに削減(Nvidia システムの同等品は 150 キロワット)。d-Matrix は目的別に設計されたアクセラレータと GPU を組み合わせて、本番環境での異種推論を実現している。
なぜ重要か
企業が単一タスクの AI ワークロードから長時間実行されるエージェンティックシステムへ移行するにつれ、インフラストラクチャのボトルネックは生の計算速度から GPU への継続的なデータ供給と電力コスト管理へシフトした。アクセラレータの近くに配置されたストレージは GPU のアイドル時間を防ぐため重要となり、アイドル時間は GPU が最も高価なインフラストラクチャコンポーネントであるため資本の浪費につながる。AI スタックのこの再構成により、企業は GPU キャパシティだけに依存することはできず、競争力を維持するためにストレージ、メモリステージング、電力アーキテクチャを再考する必要がある。
注目点
データ主権と資金調達がハードウェアとともにインフラストラクチャの課題として浮上している。Argentum AI は、顧客契約を先に確保してから建設に資金を配分するモデルにより資本制約に対応し、「電力、計算、資本」を統合製品として扱っている。Agentcy Labs と Neo4j はナレッジグラフの開発を進めており、大規模言語モデルと並行して企業に確定的な制御と説明可能性を提供し、主権(領土、運用、スタック制御)をエージェンティックデプロイメントのコアインフラストラクチャ要件として位置づけている。
本記事は、企業が AI インフラストラクチャを設計する方法における根本的なシフトを記録している。過去 2 年間を支配してきたトレーニングのスケーリングへの競争は、推論、特にエージェンティック推論(長時間実行される AI エージェントタスク)が優先事項を再構成する段階へと譲り渡した。エージェンティックワークロードは以前は二次的だった新たなボトルネックを露呈させている。ストレージキャパシティと帯域幅、電力効率、および異種コンピューティング(GPU を置き換えるのではなく GPU と並行して動作する特化したアクセラレータ)の必要性がそれである。
このシフトは単なる技術的最適化ではなく戦略的な方向転換である。Greg Matson が説明したように、ハイパースケーラーはストレージを GPU メモリの孤立したコンポーネントではなくアクティブな拡張として扱うようになっている。GPU を「100% の時間トークンを生成し続ける」ことに保つ必然性があり、アイドル GPU 時間は最大の資本投資を浪費するからである。このロジックはまた電力効率の高いアーキテクチャの採用を加速させている。乗算を加算に置き換えるために対数数学を使用した Tensordyne の例は、バッチトレーニングではなく継続的な推論の制約のためにシリコン設計を再考することの具体例である。
ハードウェアを超えて、本記事は資本とガバナンスがインフラストラクチャの課題になったことを明らかにしている。Argentum AI の資金調達優先モデルとナレッジグラフを通じたデータ主権への強調は、エージェンティックシステムを構築する企業が孤立したコンポーネントをもはや購入していないことを示唆している。むしろ展開の速度、資本コスト、および独自データへの制御を考慮した統合スタックを組み立てている。この再構成(資本、主権、アーキテクチャを同等の課題として扱うこと)は、エージェンティック AI 市場が概念実証から本番規模へと成熟したことを示している。
たとえば、いま届くならこの3本です
AIが要約して、あなたの選んだトピックだけを1日1通。LINE・Email・Slackで届きます。
登録無料・30秒で完了・いつでも解除できますAITodayについて →
この記事についてわからないことをAIに質問できます。Q&Aはこのページに公開され、他の読者も読めます。
研究者らがAgent Seerを発表

マスターカードのマイケル・ミーバッハCEOは、AIショッピングエージェントが決済を完了できる新プロトコル「Agent Pay」と、機械同士の決済向け「Agent Pay for Machines(AP4M)」について説明

コーニングは光ファイバー生産を拡大し、エヌビディアと提携してノースカロライナ州とテキサス州に先進的な光製造施設を3か所建設

記事によると、生成AIの利用が労働時間を短縮せず、生産性も向上させないというデータが最近示された

LINEヤフーは、カレンダー連携に対応した新AIエージェント「Agent i」を含む、全社規模でAIエージェントを量産する体制を構築した

Redditに、深層学習フレームワークのPyTorchでKimi K3を一から実装していると投稿した開発者がいた
