AIのメモリー需要はHBMからDRAMやストレージへ拡大している。
バーンスタインは投資機会がAIワークロード次第と指摘。
KVキャッシュがAIサービスのユーザー数を制限する可能性がある。
何が起きたか
バーンスタインのアナリストは、AIがメモリーのボトルネックを生み出しており、需要が高帯域幅メモリー（HBM）から従来型DRAM、NANDフラッシュ、ストレージへ拡大していると指摘。サムスン電子、SKハイニックス、マイクロン、サンディスク、シーゲイト、ウエスタンデジタルを「アウトパフォーム」と評価する一方、キオクシアは「アンダーパフォーム」とした。
なぜ重要か
AIのワークロード（トレーニング、推論、検索拡張生成、エージェント型AI）によってメモリーへの要求は異なる。推論では「デコード」段階がメモリー律速となり、キーバリュー（KV）キャッシュに依存。大規模展開ではモデル重みよりも多くのメモリーを要する可能性があり、AIサービスがサポートできるユーザー数を制限し得る。国内のAIサービス事業者は、メモリー需要拡大に伴う半導体市場の再編で、調達環境の変化に直面する可能性がある。
注目点
CXLメモリー、エヌビディアの「Storage Next」構想、CMXコンテキストストレージなど新興メモリー層は、性能・容量・コストのバランスを目指す。バーンスタインは、HBM並みの帯域幅とNANDの大容量・低コストを兼ね備える高帯域幅フラッシュについては、技術的ハードルが依然高いと指摘する。
この記事は、AIのメモリー需要が当初の高帯域幅メモリー（HBM）中心から、従来型DRAM、NANDフラッシュ、ストレージへと広がっている変化を浮き彫りにしている。背景には、AIワークロード（トレーニング、推論、検索拡張生成、エージェント型AI）ごとにメモリースタックへの要求が異なることがある。例えばトレーニングは計算集約的でHBMに大きく依存する一方、推論のデコード段階はメモリー律速で、KVキャッシュのサイズがコンテキスト長や同時ユーザー数に応じて増大する。これがサービス容量を制限し得る点は、AIプロバイダーにとって大きな懸念だ。
CXLメモリーやエヌビディアの「Storage Next」など新たなメモリー層の登場は、性能・容量・コストを管理しようとする業界の取り組みを反映している。ただし、特にHBMの帯域幅とNANDの容量の橋渡しを目指す高帯域幅フラッシュには技術的課題が残る。バーンスタインの評価は既存メモリーメーカーへの信頼を示すが、AIワークロードの変化が激しい中で、投資機会はこれらの技術がどう進化するかに左右されるだろう。
たとえば、いま届くならこの3本です
AIが要約して、あなたの選んだトピックだけを1日1通。LINE・Email・Slackで届きます。
登録無料・30秒で完了・いつでも解除できますAITodayについて →
この記事についてわからないことをAIに質問できます。Q&Aはこのページに公開され、他の読者も読めます。
OpenAIは8月28日、AIコーディングツールCursorへのモデル提供契約を終了すると発表し、終了日として11月12日を提案した
オープンAIのサム・アルトマンCEOはタイム誌のインタビューで、AIモデル開発を「減速する良い時期」と述べた
エヌビディアの水曜決算は、GPUだけでなく、データ処理を最大3倍高速化するVera CPUなど周辺システムにも強みがあることを示した
医療・バイオ分野のAI関連株として、メルク（MRK）が年初来42%上昇し、S&P500を約29ポイント上回った
マーベル・テクノロジーは2027年度第2四半期の売上高が過去最高の27億3900万ドル（前年比37%増）に達し、2027年度通期見通しも約120億ドルに引き上げた
8月27日木曜、アッシュビル中心部で看護師らが集まり、HCAヘルスケアに対し、人員配置やプライバシー、患者ケアに影響を与えるとされるAIシステム「パリンティア」の使用中止を求めた
