アリババ、Qwen3.8-2.4T-A95Bの重みを公開

この公開が注目されるのは、Qwen-Max級モデルがこれまでオープンウェイトとして提供されたことがなく、チームがデータ、推論動作、大規模運用時のコストを完全に制御できるようになるからだ。トレードオフは運用面にある。2.4兆パラメータをホストするには専用のGPUインフラと最適化されたサービングスタックが必要であり、だからこそAWSの記事はGPUそのものよりも、モデルのダウンロード、コンテナのスケジューリング、ヘルス監視、オートスケーリング、ノード障害からの復旧といったオーケストレーション層に焦点を当てている。

アーキテクチャは長文脈の推論を実行可能にするために作られている。92層のうち69層は有界の再帰状態を持つGated DeltaNet線形アテンションを使うため、メモリ使用量は文脈長に比例して増えない。文脈依存のメモリを追加するのは23層のフルアテンション層だけだ。この設計と、重みを約1.2 TBに圧縮するNVFP4量子化によって、2.4兆パラメータのモデルが単一の8 GPUノードに収まる。細粒度MoEは1回のフォワードパスで約95 billionのパラメータしか活性化しないため、サービングコストは総パラメータ数ではなく活性化パラメータ数に連動する。

自社ホスティングと独自APIを比較検討するチームにとって、実務上の問題は生の能力よりも運用準備にある。インスタンスがオンデマンドで利用できないため、導入はFlexible Training Planによる予約キャパシティの確保にかかっており、またAWSのベンチマークがレイテンシとスループットに大きな差をもたらすと示すMTP投機的デコーディングやExpert Parallelismといった調整レバーにもかかっている。ベンダーのベンチマーク結果は、このモデルをコーディングエージェントや研究パイプライン向けのフロンティア級と位置づけているが、AWSはより難しいリポジトリレベルのタスクや一般的なツール使用にはなお改善の余地があると注記している。