SageMaker AI、vLLM-Omniで画像・動画生成の使い分け

この記事は、AWS Deep Learning ContainersのうちvLLM-Omniを扱うシリーズの第2弾である。第1弾では双方向ストリーミングによるリアルタイム音声を扱っており、今回は画像と動画という別の生成メディアに範囲を広げた。同じpinnedのコンテナイメージを使い、環境変数SM_VLLM_MODELの切り替えだけで、画像用のFLUX.2-kleinと動画用のWan VACEを別々のエンドポイントに配備する構成になっている。

画像はbase64のPNGとして即時に返り、それを動画用の寸法にリサイズしてJPEG化し、Wan VACEのマルチパート要求に埋め込む。要求はAmazon S3に置かれ、非同期エンドポイントに渡され、生成されたMP4はS3から取得される。128,000バイトのインラインBodyでは足りないため、この構成ではInputLocationが使われている。

この使い分けはあくまで「ワークロードに合わせた選択」であり、すべての動画モデルに当てはまる規則ではないと本文は明言する。実運用では、モデルの遅延やペイロード、クライアントの対話方式に応じて推論方式を選ぶことになり、GPUエンドポイントのコストと性能検証をどこまで詰められるかが導入の分かれ目になりそうだ。