QCS6490上でLlama 3.2 1B

2つの実行が共有するのはチップだけではない。手順は同一だった。失敗したエクスポートジョブからパイプライン自身のコンパイルパラメータを読み取り、問題のフラグ1つを外し、スクリプトが修正し忘れる入力シェイプを固定する。最後のステップは重要だ。著者によれば、最初のQwen3の試みはシェイプを動的のままにしたために失敗した。RB3 Gen 2上で6回のコンパイル、1回のリンク、6回のプロファイリングがすべて通っても、不具合はスクリプト内に残ったままで、回避策がそれを迂回している。

著者が本当に構築しているのは単一の結果ではなくシリーズだ。比較表にはw4a16・コンテキスト512の2行が並ぶ。Qwen3-0.6Bがプリフィル1,555 tok/s、デコード24.6 tok/s、Llama 3.2 1B Instructが1,024と16.4だ。両行を比較可能にしているのは明示された手法であり、著者は手法を伴わない大きな数値よりも、手法とセットで数値を公開したいと述べている。待機列の次の項目、Qwen3-1.7BとLlama 3.2 3Bが加われば、2点比較は傾向へと変わり、このチップで何がどれだけ速く動くかについて外挿から実測の答えへと近づく。