Bedrock、Claude Opus 5とSonnet 5のリージョン内推論に対応

今回のアップデートは、特定の種類の保証を顧客に提示する。ソウル（ap-northeast-2）またはシンガポール（ap-southeast-1）リージョンに送られたリクエストは、クロスリージョン推論プロファイルが用いるようなルーティング層を介さず、そのリージョンのみで処理される。入力プロンプトと出力結果は、リクエストのライフサイクル全体を通じてそのリージョン内にとどまる。これは、データレジデンシー規則が厳格でマルチリージョンのルーティングが選択肢にならない組織にとって最も重要であり、投稿では金融サービス、医療、公共部門が例として挙げられている。

トレードオフも同じくらい明確に示されている。リクエストを他の場所にルーティングできないため、スループットはそのリージョンの容量に制約され、リクエストはリージョンごとのサービスクォータの対象となる。課金は指定したリージョンの標準オンデマンド料金に従い、運用上の範囲は意図的に狭くされている。クォータ消費、CloudWatchメトリクス、CloudTrailログエントリはすべて同じリージョンに限定されるため、監視において送信元と送信先の区別を追跡する必要がない。Amazon Bedrock Guardrailsとインテリジェントプロンプトルーティングをすでに利用しているチームにとって、これらの機能はリージョン内推論と併用して引き続き利用可能だと投稿は述べている。

これが適切かどうかは、チームがレジデンシーと余裕をどう天秤にかけるかにかかっている。データがリージョンから出ないという保証は、一部の規制対象ワークロードが実行に進むために必要なものだが、それは上限がより広い範囲で平準化されるのではなく、そのリージョンの容量に応じて変動することを意味する。需要が急変する、または非常に大きいチームにとっては、リージョンごとのクォータが決め手となる制約になるかもしれない。一方、主な障害がデータレジデンシーだったチームには、これらのモデルを大規模に実行する道が開ける。