Amazon Bedrock にて Claude 3.7 Sonnet, 3.5 Haiku のプロンプトキャッシングがGAになりました【Claude Code で試してみた】

プロンプトキャッシングはコンテキストの一部をキャッシュに追加する機能です。 反復的なタスクや共通の要素を持つプロンプトの 応答速度向上やコスト削減が期待できます。

今回「 Amazon BedrockのプロンプトキャッシングがClaude 3.7 SonnetおよびClaude 3.5 Haikuで一般利用可能(GA) になった」とAWSドキュメントに記載がありました。

Amazon Bedrock prompt caching is generally available with Claude 3.7 Sonnet and Claude 3.5 Haiku. Customers who were given access to Claude 3.5 Sonnet v2 during the prompt caching preview will retain their access, however no additional customers will be granted access to prompt caching on the Claude 3.5 Sonnet v2 model. Prompt caching for Amazon Nova models continues to operate in preview.

– 引用: Prompt caching for faster model inference - Amazon Bedrock

ちょうど最近 Claude Code を Bedrock経由で利用しようとしていたので、 本機能(プロンプトキャッシング)の効果を実感してみます。

試してみる

事前準備

Claude Code のセットアップや、 Bedrock周りの設定については以下ブログで書いているので省略します。

https://dev.classmethod.jp/articles/claude-code-nyuumon-with-amazon-bedrock/

上記ブログ執筆時点では対応していなかったので、 以下のような文言を書いていました。

プロンプトキャッシング OFF のとき

プロンプトキャッシング OFF の設定で、Claude Code を起動します。 キャッシュやコスト周りの情報が欲しいのでデバッグモードとします。

# Bedrockを使う設定
export CLAUDE_CODE_USE_BEDROCK=1

# 使用するモデルの指定
export ANTHROPIC_MODEL='us.anthropic.claude-3-7-sonnet-20250219-v1:0'
export ANTHROPIC_SMALL_FAST_MODEL='us.anthropic.claude-3-5-haiku-20241022-v1:0'

# プロンプトキャッシングをOFFにする
export DISABLE_PROMPT_CACHING=1

# Claude Code 起動
claude --debug

その後、AWS What's New の RSSフィード から 2つほど依頼を投げました。

結果、セッションで掛かったコストは $0.2466 でした。

プロンプトキャッシング ON

次はプロンプトキャッシング ON の設定で、Claude Code を起動します。

# Bedrockを使う設定
export CLAUDE_CODE_USE_BEDROCK=1

# 使用するモデルの指定
export ANTHROPIC_MODEL='us.anthropic.claude-3-7-sonnet-20250219-v1:0'
export ANTHROPIC_SMALL_FAST_MODEL='us.anthropic.claude-3-5-haiku-20241022-v1:0'

# プロンプトキャッシングをONにする(= 以下コマンドをコメントアウト)
# export DISABLE_PROMPT_CACHING=1

# Claude Code 起動
claude --debug

セッションで掛かったコストは $0.0973 でした。 プロンプトキャッシングOFFのとき($0.2466) よりも半額以上減ってますね。

おわりに

Claude Code with Bedrock にてプロンプトキャッシングを体験してみました。 ほんの少しの検証のみですが、コストが減らせていることを確認できています。

Claude Code 上では設定も特に要らないので基本有効化するのが良いでしょう。

ほかツール、APIにてプロンプトキャッシングを使う方法は 公式ドキュメントの Prompt caching #Getting started を参照ください。

以上、参考になれば幸いです。

参考

• プロンプトキャッシング - Anthropic
• Prompt caching for faster model inference - Amazon Bedrock