AIToday
大規模言語モデルAIビジネス・産業Amazon AI Blog掲載日時: 2026年11月13日 6:00

Amazon Bedrock、Bedrockの推論コスト

LINEで送る
Amazon Bedrock、Bedrockの推論コスト

3つのポイント

  1. 何が起きたか

    AWSはAmazon Bedrockの推論の4つの選択肢(キャッシュ期間、サービス階層、推論の労力、maxTokens)を詳述し検証した。

  2. なぜ重要か

    チームはモデルを替えずにリクエスト設定の調整でBedrockの請求額を抑えられるがトレードオフがある。

わからないところ、AIに聞けます

質問と回答はこのページに公開されます。

こういう要約が、毎朝あなたのメールに届きます。

背景と解説

この指針は、企業が生成AIワークロードを試験運用から本番へ移す時期に届いた。本番ではリクエスト単位の設定がクラウドの継続的な請求額に積み上がる。AWSは4つの選択肢を推論リクエスト自体の中にある調整項目として位置づけており、モデルの再学習や差し替えなしで調整できる。プロンプトとアプリケーションのロジックをすでに管理しているチームにとって魅力的な提案だ。

検証はトレードオフのばらつきを浮き彫りにした。コスト面では、1時間キャッシュの書き込みは入力レートの2倍で、5分書き込みの1.25倍に対して高い。そのため長い期間が得になるのは、同じプレフィックスが5分を超える間隔で再出現する場合だけだ。品質面では、推論労力に明確な差が出た。ツール呼び出しエージェントのタスクでは高い労力が出力トークンの中央値を169%増やしたが、コード生成のサンプルでは低い場合と高い場合の差は実行ごとのばらつきの範囲内で、採点されたプログラムはすべて合格した。適切な労力水準は、タスクがモデルの能力の限界にどれだけ近いかで決まることを示唆する。

運用面では、AWSはリクエストのメタデータ、OutputTokenCountやResolvedServiceTierといったCloudWatchメトリクス、呼び出しログ、タスクの合格率をフィードバックループとして挙げている。また、maxTokensは出力の上限であり安全制御ではないと警告し、本番でのコンテンツフィルタリングとプロンプト攻撃検知にはGuardrailsを推奨している。繰り返し強調されるのはモデルごとの検証だ。キャッシュ期間、Flexのサポート、推論のデフォルト値はモデルのバージョンとリージョンによって異なるため、複数モデルにまたがるルーティングでは機能記録が必要になり得る。

よくある質問
Bedrockで1時間キャッシュが5分キャッシュより安くなるのはいつか?
AWSによると、同じプレフィックスが5分を超える間隔で再出現する場合、その1時間内の2回目のリクエストから1時間キャッシュの方が安くなる。1時間の書き込みは入力レートの2倍かかるため、再利用が少ないと損失が出る。
Amazon Bedrock Flexはすべてのモデルで使えるのか?
いいえ、階層のサポートはモデルごとに異なる。Amazon Nova 2 LiteとOpenAI gpt-oss-120bのモデルカードはFlexをサポート対象と記載し、Amazon Bedrock上のAnthropic Claude Sonnet 5とClaude Opus 5は非サポートと記載している。非対応のFlexリクエストはValidationExceptionで失敗する。
AWSの検証でmaxTokensの上限を下げると実際にどれだけ節約できたか?
意図的に冗長なプロンプトを使ったClaude Sonnet 5の検証では、155トークンのフェンスが2,048トークンの上限と比べて1,893出力トークンを回避した。どちらの応答もmax_tokensで打ち切られた。
Amazon AI Blog元記事を読む
LINEで送る

あなたの仕事に関係するAIニュースを、毎朝お届けします。

業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。

登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →

AIに質問

この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。

質問と回答はこのページに公開されます。

このようなAIの動きを、御社の業界・競合に合わせて毎日届ける法人プランもあります → 詳しく見る

関連記事

次の記事へAmplitude、製品改善を1〜2日で出荷へ