AMD、AIモデルを直埋め込みするTalasを買収

AMDは、2023年にトロントで設立され2024年2月にステルスから出現したカナダのAIスタートアップTaalasを買収したと発表した。Taalasはai推論ハードウェアに対して異例のアプローチを取っている。汎用的なアクセラレータを構築するのではなく、モデルのアーキテクチャと学習済みパラメータをチップのシリコンに直接埋め込む。このデザイン選択は重要なトレードオフを生む。各チップは単一のモデルに限定されるが、推論は極めて高速になる。

Taalasのデモチップはパフォーマンス上の見返りを示す。Llama 3.1-8Bを実行して、チップはユーザー1人あたり秒間16,000トークン以上を達成し、競合推論ハードウェアの速度をはるかに上回った。トークンはAIモデルが処理・生成するテキストの塊であり、ユーザー1人あたりのスループット向上は、本番環境での遅延低減と容量増加に直結する。速度上の利点にもかかわらず、単一モデルへのロックインは、汎用アクセラレータと比較してチップの柔軟性を制限する。

AMDの統合戦略は特化と広さのバランスを取る。AMD AI部門シニアバイスプレジデントのVamsi Boppanaは、本買収がAMDのAIポートフォリオを強化すると述べた。Instinct GPUラインを置き換えるのではなく、AMDはTaalasの技術をアクセラレータのロードマップに組み込み、Instinct GPUと並行してシステムレベルのソリューションとして提供する計画である。これにより顧客は、多様なワークロード向けの汎用型加速と、大規模な単一モデル展開向けの特化型チップのいずれかを選択できる。Taalasの共同創業者Ljubisa Bajicは、AMDがスタートアップに必要な規模とリーチを提供すると述べ、より大規模な企業の製造および流通インフラが市場への技術導入に不可欠であることを認めた。本買収は標準的な規制当局の承認を条件としている。特筆すべきことに、GoogleはGemini向けに同様のチップ設計を進めていると報告されており、モデル固有のシリコンが大規模AI推論の標準戦略として浮上する可能性を示唆している。