ScaleFlux、AIの記憶域の律速でSSD制御に注力

ScaleFluxの主張の出発点は単純な不均衡にある。GPUは毎秒約20～22テラバイトで動作するが、その下の各層が遅延を加える。Balaji氏の表現を借りれば、DRAMはGPUの要求より約37～40倍遅く、ストレージは約800倍遅い。同氏の説明では、ボトルネックは単一のコンポーネントではなく、データがGPUからメモリへ、そしてストレージへと移動する行為そのものであり、そこで遅延が増幅される。

この捉え方が、ScaleFluxにNANDフラッシュを従来の役割を超えて押し出す動機を与えている。フラッシュを受動的なアーカイブとして扱うのではなく、Balaji氏によれば、インテリジェントなSSDコントローラーやCXLメモリコントローラーがNANDの特性を活かしてメモリデバイスとして利用でき、特にキーバリューキャッシュオフロード——推論ワークロードが依存する会話コンテキストの保存——に有効だという。同社が示す根拠は、標準的なトリプルレベルセルNANDで200以上の柔軟なデータ配置ストリームと1日あたり7～10回のドライブ書き込みであり、完全なリファレンス設計と委託製造パートナーと併せて実現できるとしている。ScaleFluxはNANDアグノスティックであるため、顧客は供給が逼迫した市場で調達できるフラッシュを基に構築できる——Balaji氏が言及した供給状況を踏まえると実用的な考慮点だ。