AIメモリー需要、HBM以外にも拡大＝バーンスタイン

何が起きたか

バーンスタインのアナリストは、AIがメモリーのボトルネックを生み出しており、需要が高帯域幅メモリー（HBM）から従来型DRAM、NANDフラッシュ、ストレージへ拡大していると指摘。サムスン電子、SKハイニックス、マイクロン、サンディスク、シーゲイト、ウエスタンデジタルを「アウトパフォーム」と評価する一方、キオクシアは「アンダーパフォーム」とした。

なぜ重要か

AIのワークロード（トレーニング、推論、検索拡張生成、エージェント型AI）によってメモリーへの要求は異なる。推論では「デコード」段階がメモリー律速となり、キーバリュー（KV）キャッシュに依存。大規模展開ではモデル重みよりも多くのメモリーを要する可能性があり、AIサービスがサポートできるユーザー数を制限し得る。国内のAIサービス事業者は、メモリー需要拡大に伴う半導体市場の再編で、調達環境の変化に直面する可能性がある。

注目点

CXLメモリー、エヌビディアの「Storage Next」構想、CMXコンテキストストレージなど新興メモリー層は、性能・容量・コストのバランスを目指す。バーンスタインは、HBM並みの帯域幅とNANDの大容量・低コストを兼ね備える高帯域幅フラッシュについては、技術的ハードルが依然高いと指摘する。