Lightning AIがGPUクラウド展開、性能保証

何が起きたか

Lightning AIは、別のプロバイダーからハードウェアをリースするのではなく、GPU、データセンターファブリック、ハイパーバイザー、スケジューラーなど、インフラストラクチャスタック全体を制御するAI Cloudプラットフォームを立ち上げた。PyTorch Lightningと統合された、オンデマンドまたはスポット容量の保証を提供する。

なぜ重要か

完全なスタックを所有することで、Lightning はリースされたインフラストラクチャでは実現できない方法で予測可能なパフォーマンスを保証できる。システムはフラット化された抽象化ではなく実際のハードウェアトポロジーを認識し、スケジューラーは散在した容量ではなく接続性の高いマシンに複数ノードのジョブを配置し、プロビジョニングについて責任を持つ単一のオペレーターがいる。これにより、ベンダーがインフラストラクチャを正しく処理してくれることを望むという、通常伴う推測が排除される。

注目点

Lightning Cloud へのアクセスリクエストが利用可能になった。このプラットフォームは PyTorch Lightning と統合されている。一方、Lightning の RL コース Part 12 では、エージェントトレーニングループを扱い、LLM エージェント向けの RL 環境の定義、トレーニングユニットとしての複数ステップ軌跡、RULER スコアリングレイヤーをカバーしており、無料の Colab GPU 上で 3B パラメータモデルをトレーニングする実践例を含んでいる。