Strands Robotsがバケットからストリーミング学習、ダウンロード不要

このポストはロボティクスデータパイプラインの具体的なコスト問題に対処している。記録、学習、展開を行う連続ループは乗算的なバイト転送を引き起こす。毎日の記録はバージョン管理されたリポジトリにアップロードされ、各学習実行はデータセット全体をGPUにコピーし、新しいチェックポイントが送出される一方で次のバッチの記録が到着する。バージョン管理されたリポジトリでは、大きなビデオシャードへのわずかな編集もファイル全体の再アップロードを強制する。Xetのコンテンツ定義チャンキングで支援されるバケットはこれを反転させる。チャンク境界がコンテンツに従うため、数バイト挿入されてもそのバイトを含むチャンクのみが変わり、その後のすべての境界が変わることはない。Hugging Faceの独自の測定ではHub全体でのアップロードあたりのバイト転送でおよそ4倍削減を示し、エンタープライズプランでは課金は生のストレージではなく重複排除されたフットプリントを追跡する。

Strands Robots—AWSからのオープンソースSDK—はロボット抽象化、シミュレーション、およびLeRobotスタックを合成可能なエージェントツールとして公開する。エージェントループ自体が意思決定者である。どのエピソードを保持するか、いつ再記録するか、今日のバッチが学習に十分か、どのチェックポイントをハードウェアに展開するかを選択する。ウォークスルーはこのループをコードで示す。単一のRobot()オブジェクトはLeRobotDatasetを記録し、同じプロセスでそれをストリーミングバックし、個別のダウンロードステップの必要性を排除する。LeRobotの形式は既にHub上の8,000を超えるパブリッシャーから90,000を超えるデータセットとモデルで使用されているため、LeRobotデータを読む任意の下流ツールはStrands記録を変換なしで読む。