AWSがNVIDIA Cosmos 3でPhysical AIモデル工場を紹介

このブログ投稿は、ロボティクスと自動運転開発における実際のボトルネック、つまり単一のトレーニングジョブではなく、継続的な改善ループを実行する必要性に対処している。従来、チームはデータ生成、事後トレーニング、評価の各ステージに対して別々のGPUクラスタを用意し、それぞれにセットアップとティアダウンのライフサイクルがあった。AWSはこれが容量を断片化し、予約済みGPU時間あたりの有用なパイプライン進捗であるGPUグッドプットを低下させると主張する。

Cosmos 3の設計はAWSの提案の中心にある。1つのモデルがフォワードダイナミクスのワールドモデル、インバースダイナミクスのアクションラベラー、展開可能なポリシーとして動作できるため、3つのステージすべてを単一の永続的なGPUプール上のワークロードとして実行できる。AWSはこれにより、再プロビジョニングの手順とステージ間のテラバイト規模のデータ移行が不要になると述べている。クラスタはAmazon SageMaker HyperPodとEKS上で実行され、全ステージがS3をバックエンドとする単一のAmazon FSx for Lustreファイルシステムを共有する。

投稿では、公開DROIDデータセットを使った完全なエンドツーエンドのロボットポリシーステージを、awsome-distributed-ai GitHubリポジトリの実行可能なコードとともに解説している。AWSは、GPU可用性とリードタイムの変動を避けるために、容量をループ全体にコミットすべきだと強調している。具体的には、期間が定められたキャンペーンには柔軟なトレーニングプランを、期間が定められていないものには容量予約を使用する。