エッジ向けCVモデル管理の新パイプライン

この投稿は、エッジでの視覚品質検査向けMLOpsに関する2023年の連載の更新で、SageMaker Python SDK v3に移植され、廃止されたSageMaker Edge Managerの代わりにエッジ最適化用のSageMaker Neoを使う。サンプルはAWS CDKでデプロイされ、オーケストレーション層は既定で同時に最大5件のパイプライン実行しか受け付けないため、SageMakerの訓練ジョブの同時実行が標準のアカウント枠に収まり、サービス枠の増加申請は不要になる。

注目すべき設計として、各品質ゲートはメモリ上のPyTorchモデルではなくエクスポート済みのONNX成果物を評価するため、ゲートを通った成果物がそのまま出荷される。分類器分支が均衡精度と欠陥再現率を併用するのは、画像の約90パーセントが良品で単純な精度が誤解を招くためだ。Model Registryは全カメラのパッケージを共有グループに保持し、カメラ別の履歴はカメラメタデータでの絞り込みで復元する。ListModelPackagesは顧客メタデータでサーバー側の絞り込みができないためだ。カメラの初回実行では取得結果が空で訓練はコールドスタート初期化にフォールバックし、以降はそのカメラ自身の過去モデルから再開する。

サンプルは破壊的変更として記載されていないSDK v3の挙動も2つ文書化している。SDKは合成時にパイプライン実行ロールを実際のIAMに対して検証するため、CDKアプリはロールとパイプラインを1回のデプロイで作成できない。サンプルは2段階デプロイとコンテキストフラグで対処する。ロール検証はリソースARNなしでECRプル権限をシミュレートするため、単一のECRリポジトリに限定したロールは実行時には機能しても検証で失敗する。コンパイル自体は無料で、実行する処理インスタンスと出力のS3保存に課金される。