エージェンティックAI、訓練から効率重視へ転換

何が起きたか

RAISE Summitで、インフラストラクチャ業界のリーダーが、長時間実行されるAIエージェントタスクであるエージェンティック推論が、ストレージ、メモリ、電力消費に新たなボトルネックを生み出していることを明らかにした。Solidigmの Greg Matson は、ストレージが重要経路に入り、「システムのメモリを拡張する全く新しいストレージ層」が生成されていると説明した。AMD は個別チップではなく CPU、GPU、ネットワーク全体で最適化を実施。Tensordyne の Napier 推論チップは対数数学を使用して電力消費を 30 キロワットに削減（Nvidia システムの同等品は 150 キロワット）。d-Matrix は目的別に設計されたアクセラレータと GPU を組み合わせて、本番環境での異種推論を実現している。

なぜ重要か

企業が単一タスクの AI ワークロードから長時間実行されるエージェンティックシステムへ移行するにつれ、インフラストラクチャのボトルネックは生の計算速度から GPU への継続的なデータ供給と電力コスト管理へシフトした。アクセラレータの近くに配置されたストレージは GPU のアイドル時間を防ぐため重要となり、アイドル時間は GPU が最も高価なインフラストラクチャコンポーネントであるため資本の浪費につながる。AI スタックのこの再構成により、企業は GPU キャパシティだけに依存することはできず、競争力を維持するためにストレージ、メモリステージング、電力アーキテクチャを再考する必要がある。

注目点

データ主権と資金調達がハードウェアとともにインフラストラクチャの課題として浮上している。Argentum AI は、顧客契約を先に確保してから建設に資金を配分するモデルにより資本制約に対応し、「電力、計算、資本」を統合製品として扱っている。Agentcy Labs と Neo4j はナレッジグラフの開発を進めており、大規模言語モデルと並行して企業に確定的な制御と説明可能性を提供し、主権（領土、運用、スタック制御）をエージェンティックデプロイメントのコアインフラストラクチャ要件として位置づけている。