AMD、推論特化チップのTaalasを買収 Nvidia対抗加速

AMDは8月6日、推論特化チップのスタートアップTaalasの買収を発表しました。買収金額は非開示ですが、この動きはNvidiaに対する競争を推論分野へと拡大する戦略的な一手です。AMDはTaalasの技術をAMD Instinct GPU（画像処理用演算チップ）と組み合わせ、異なるコンポーネントと機能を統合したシステムレベルのソリューションを開発する計画です。同社のArtificial Intelligence Group上級副社長であるVamsi Boppanaは「AMDはすべてのAIワークロードに対して適切な演算ソリューションをお客様に提供する柔軟性を持つフルスタックAIプラットフォームを構築している」とコメントしています。

Taalasの技術は推論処理において大きな性能上の利点を提供するとみられます。同社のHC1デモンストレーターはLlama 3.1 8Bを実行する際に1ユーザーあたり毎秒約17,000トークン（テキスト処理の単位）の処理速度を達成し、高度なHBMメモリ、高度なパッケージング、液体冷却を避けることで、従来の推論システムと比べて建設コストを20分の1、消費電力を10分の1に削減できると主張しています。

この買収はAMDの推論分野への戦略的な投資の一部です。同社は過去数ヶ月でAI推論を専門とするソフトウェアスタートアップのMK1を11月に買収し、6月にはMEXT、7月にはFastFlowLMを統合しています。これらの一連の買収によって、AMDはNvidiaなどの大手企業との推論能力の競争に対抗しようとしています。

この動きの背景には、推論分野における競争の激化があります。推論とはAIモデルが実際に利用される際の処理、つまり質問に答える処理を指します。AIアシスタント、自動コーディング機能、その他類似のアプリケーションが数十億件のクエリを処理する中で、レイテンシ（応答時間）、スループット（処理量）、消費電力効率といった要素がますます重要になっています。Nvidiaはこれまでモデル訓練の分野では支配的でしたが、推論分野ではCPUやカスタムプロセッサからの競争に直面しており、より統合されたシステムを提供する必要が生じています。これに対抗するため、Nvidiaは先ごろ高性能AIチップ設計企業のGroqとの200億ドルの提携を発表し、推論技術と人材を確保しています。