Google、AIエージェント時代向けに2種類の新型TPUチップを発表 — 学習用と推論用を分離設計

GoogleがTensor Processing Unit（TPU）の新世代チップを発表した。従来の1つのチップ設計から、AIモデルを学習させるチップと、学習済みモデルが質問に答える処理を高速化するチップの2つに分割した設計に変更した。

推論特化型チップにより、複数のユーザーからの質問を同時に捌く処理速度が向上する。これまで数秒かかっていたチャットボットの応答が、モバイルアプリでも数百ミリ秒単位で返ってくるようになる。学習用チップは大規模な言語モデル学習の計算時間を短縮し、Googleが新しいAIモデルをライバル企業より早く市場投入できる。

企業のシステム担当者やAI導入を検討する経営層にとって、Google CloudでのAI推論コストが低下する可能性がある。応答速度向上により、チャットボット、顧客サービス自動化、データ分析ツールなど、リアルタイム対応が求められるAI機能が自社システムに組み込みやすくなる。