
何が起きたか
AWSによると、Amazon Bedrockのプロンプトキャッシュはキャッシュヒット時のキャッシュ済み入力トークン費用を最大90%削減する。キャッシュ書き込みは標準入力より25%高い。
なぜ重要か
同じコンテキストを基盤モデルに繰り返し送るチームは、入力の大半を割引されたキャッシュ読み取り料金で請求できる。キャッシュ済みプレフィックスの再利用は初回トークンまでの時間も短縮できる。Amazon Bedrockで同じ入力を繰り返す国内のAI開発チームは、入力費を抑えられる可能性がある。
注目点
削減効果は後続リクエストがキャッシュのTTL内に収まるかどうかにかかっている。期限切れ後のリクエストは、より高価な新規キャッシュ書き込みを発生させる。
誰に効くかこれはAmazon Bedrock上でRAGや文書分析アプリを構築する開発者やプラットフォームチームに影響する。彼らはキャッシュチェックポイントを軸にプロンプトを構成することで入力トークン費用を削減できる。また、クエリあたりのAIコストを注視する財務担当者やプロダクトオーナーにも関わる。
こういう要約が、毎朝あなたのメールに届きます。
AWSはプロンプトキャッシュを、よくある課金問題の解決策として位置づけている。つまり、長い静的な文書をさまざまな質問と一緒に送るケースだ。キャッシュがなければ、10,000トークンの契約書と50件のユーザー質問の組み合わせは、モデルがすでに処理した内容に対して50万入力トークンが正規料金で請求される。AWSはキャッシュという選択肢を、アプリケーション内ではなくAmazon Bedrock上で行われるインフラレベルものとし、モデルやプロンプトの品質は変わらないとしている。
この投稿は、それぞれにトレードオフを伴う3つの代替案と対比している。プロンプトを短くすればトークン数は減るが、コンテキストの品質が下がる可能性がある。コンテキストウィンドウを小さくすればコストは下がるが、完全な情報に基づく推論が犠牲になる。レスポンスキャッシュは同一クエリには有効だが、同じコンテキストを異なる質問と組み合わせる場合には役立たない。キャッシュはまさにその最後のケースを狙い、後続リクエストでモデルがすでに処理済みのトークンを読み取れるようにする。
問題は、その経済性がタイミングと再利用にかかっている点だ。AWSによると、ある文書のコンテキストで約75%の正味削減という試算は、後続のリクエストがすべてTTL内に発生することを前提としている。期限切れ後のリクエストは新たなキャッシュ書き込みを引き起こす。つまり効果は、チームのクエリがどれだけ密集しているか、プロンプトが本当に安定しているか次第であり、ワークロードによって向き不向きがあるかもしれない。
業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。
登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →
この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。
このようなAIの動きを、御社の業界・競合に合わせて毎日届ける法人プランもあります → 詳しく見る
OneTrustはOneTrust CORIEを基盤とするFall '26リリースを発表し、厳選した基盤モデルライブラリからモデルの関連付けと非推奨指標を継続的に更新するAI台帳を追加した
11月18日の日経「Dialogues on the Future」で、ソフトバンクグループの孫正義氏はAnthropicへの出資見送りを「僕の失敗の一つ」と語った

Cassava TechnologiesがNvidia製チップ購入のため最大10億ドルの調達を検討

Microsoft Ignite 2026でマイクロソフトは赤・青・緑チームのエージェントを組み合わせ攻撃模擬・検知調査・脆弱性修正を行うMicrosoft Perceptionの一般提供を発表した

Microsoft Ignite 2026でWindows Server 2028のパブリックプレビューが公開され、Microsoft Foundry、Windows ML、vLLM、Llama.cppによるAI推論ホス…

BrightAIがSmith Point Capital主導のラウンドで97百万ドルを調達
