AIToday
大規模言語モデルAIビジネス・産業Amazon AI Blog掲載日時: 2026年8月29日 4:002分で読める

Salesforce、SageMakerでMulti-AZ高可用性を実現

LINEで送る
Salesforce、SageMakerでMulti-AZ高可用性を実現

要点

  • SalesforceはAWSの新機能でAIモデルの高可用性を実現した。

  • 全本番モデルで2-AZ対応が必須だ。

  • コスト削減と障害耐性を両立させる。

3つのポイント

  1. 何が起きたか

    SalesforceがAmazon SageMaker AI Inference Componentsの新機能「IC Placement」を利用し、Agentforceのモデルを複数のアベイラビリティゾーン(AZ)に分散配置する高可用性構成を実現した。この機能により、インフラコストを8倍削減しつつ、同社のコンプライアンス基準である全本番モデルの2-AZ対応を満たす。

  2. なぜ重要か

    従来の配置アルゴリズムはAZバランスを考慮せず、インスタンス障害やAZ障害でモデル全体が停止するリスクがあった。新機能はAZ間のコピー分散を制御し、障害分離とGPU利用効率のバランスを可能にする。国内のAI運用企業が、可用性とコストの両立を図る新たな手法を検討する可能性がある。

  3. 注目点

    SchedulingConfigパラメータでAvailabilityZoneBalanceとPlacementStrategy(SPREAD/BINPACK)を設定する。HAにはCopyCountを2以上に設定し、スケールアウト・イン時もAZバランスを維持する。監視にはSageMaker AI InsightsのAZスキュー指標が役立つ。

この記事についてAIに質問する →

背景と解説

SalesforceがAgentforceの高可用性(HA)を実現するために、Amazon SageMaker AIの新機能を活用した事例だ。同社は全本番モデルに2-AZ対応を義務付けており、従来の配置アルゴリズムではコスト最適化が優先され、AZバランスが考慮されていなかった。新たなSchedulingConfigパラメータにより、AZ間の分散とインスタンス内の配置を細かく制御できるようになった。SalesforceはSPREAD戦略を選択し、障害分離を優先した。これにより、インスタンス障害やAZ障害によるモデル全体の停止リスクを低減できる。

よくある質問

SchedulingConfigパラメータで何が制御できますか?
ICコピーのインスタンスとAZにまたがる配置を細かく制御できます。AvailabilityZoneBalanceでAZ間の分散バランスを、PlacementStrategyでインスタンス内の配置戦略(SPREADまたはBINPACK)を指定します。
AZバランスを保ったままスケールするにはどうしますか?
SageMakerはスケールアウト時に新しいコピーをAZ全体に均等に配置し、スケールイン時にはAZ間で対称的にコピーを削除します。また、継続的な再バランスにはエンドポイントのScaleInPolicyでCONSOLIDATION戦略を設定します。
Amazon AI Blog元記事を読む
LINEで送る

「大規模言語モデル」の最新ニュースを、毎朝7時にお届けします

たとえば、いま届くならこの3本です

  • 企業にエージェント統治の欠落SiliconANGLE AI · 3時間前
  • AIエージェントに「社員証」と「委任状」必須にITmedia AI+ · 3時間前
  • OpenAIがAIのROI新指標を提唱ITmedia AI+ · 3時間前

AIが要約して、あなたの選んだトピックだけを1日1通。LINE・Email・Slackで届きます。

登録無料・30秒で完了・いつでも解除できますAITodayについて →

AIに質問

この記事についてわからないことをAIに質問できます。Q&Aはこのページに公開され、他の読者も読めます。

関連記事

次の記事へエヌビディア、予想上回りHugging Face買収視野