GoogleがTorchTPUを発表

GoogleのTorchTPU発表は、実務上の摩擦点を狙ったものだ。ほとんどのAIアプリケーションはPyTorchで構築されており、新しいハードウェアへ移すには従来コードの変更が必要だった。PyTorchチームと共同でTorchTPUを開発することで、Googleはそうしたワークロードを最小限の修正でTPU上で実行する道を提供し、TPUとGPUにまたがるKubernetesネイティブのFleet Routingと組み合わせればドル当たりのスループットも最適化されるとしている。Hugging Faceとの提携はこれを人気のオープンウェイトモデルに広げるもので、それらのモデルをすでに使うチームがTPUを試す際の手間を減らす。NVIDIAへの対抗策と位置づけている。ほとんどのAIアプリはデフォルトでNVIDIAのGPU向けに設計されているため、PyTorchワークロードをTPU、ひいてはGoogle Cloudへ移しやすくすることで、Googleは顧客獲得を狙える。AmazonもTrainiumチップとAWS向けの独自PyTorch版であるTorchNeuronで同様の動きを見せており、ハードウェアベンダーがソフトウェア互換性を採用のてこ（レバー）と見ていることがうかがえる。