Google、AI向け専用チップ2種を発表

Googleの最新TPUは、4月に投入した第8世代チップが基になっている。第8世代は推論能力と大規模なトレーニング要件への対応を強化した。AMDと共同設計したTPU 8txはTPU 8tをベースに、機密トレーニングと推論向けのハードウェアレベルのセキュリティを追加し、トレーニングと並行して推論を実行できる独自の推論ネットワークを備える。この組み合わせは、自社データでモデルを学習させつつ、データをデバイス間で移動させたくない企業に有用となり得る。一方TPU 8i Maxは、推論に特化したTPU 8iを2つ単一パッケージにまとめ、メモリ容量・処理能力・帯域幅を2倍にして、クエリ時にAIモデルが扱える情報量を広げる。今回の発表は、MicrosoftやAmazonなどのハイパースケーラー、OpenAIやAnthropicなどのAI研究所が、Nvidiaへの依存を減らすため独自のAI向け半導体とソフトウェアを進める中で行われた。Nvidiaにとっては特に脆弱な時期でもある。CEOのJensen Huang氏は週末、中国のスパイとされる人物と不倫関係にあったことを認めた。