Claude・OpenAI・Gemini のプロンプトキャッシュを比較してみた — 設計思想・コスト・実装の違い

同一プロンプト短期間に繰り返し多い + 制御したい → Claude（最大割引）or Gemini 明示的（保証）
手間かけたくない                        → OpenAI（自動）or Gemini 暗黙的
大量ドキュメント + 確実性必要            → Gemini 明示的（32k+ 前提）

from anthropic import Anthropic

client = Anthropic()

# キャッシュしたい大きなドキュメントを読み込む
large_document = open("my_document.txt").read()

response = client.messages.create(
    model="claude-sonnet-4-20250514",
    max_tokens=1024,
    system=[
        {
            "type": "text",
            "text": "You are a helpful assistant that analyzes documents.",
        },
        {
            # 大きいドキュメントをここに置く（上部＝安定コンテンツ）
            "type": "text",
            "text": "<document>" + large_document + "</document>",
            "cache_control": {"type": "ephemeral"},  # ← breakpoint
        },
    ],
    # 可変コンテンツは下（キャッシュ対象外）
    messages=[
        {"role": "user", "content": "Summarize the key points."}
    ],
)

# キャッシュ状況確認
print(f"Cache write: {response.usage.cache_creation_input_tokens}")
print(f"Cache read:  {response.usage.cache_read_input_tokens}")
# 1 回目: cache_creation_input_tokens > 0（書込、+25% コスト）
# 2 回目: cache_read_input_tokens > 0  （読取、-90% コスト）

from openai import OpenAI

client = OpenAI()

large_document = open("my_document.txt").read()

# 普通に呼ぶだけ。キャッシュ設定は一切不要
response = client.chat.completions.create(
    model="gpt-4o",
    messages=[
        {
            "role": "system",
            "content": "You are a helpful assistant that analyzes documents.",
        },
        {
            "role": "user",
            "content": "<document>" + large_document + "</document>\n\n"
                       "Summarize the key points.",
        },
    ],
)

# usage に cached_tokens が出る
print(f"Cached: {response.usage.prompt_tokens_details.cached_tokens}")
# 自動検出なのでヒットするかは保証なし

from google import genai
from google.genai import types
import datetime

client = genai.Client()

large_document = open("my_document.txt").read()

# Step 1: CachedContent を事前作成（TTL 付き）
cache = client.caches.create(
    model="gemini-2.5-flash",
    config=types.CreateCachedContentConfig(
        display_name="my-doc-cache",
        contents=[
            types.Content(
                role="user",
                parts=[types.Part(text=large_document)],
            )
        ],
        system_instruction="You are a helpful assistant that analyzes documents.",
        ttl=datetime.timedelta(hours=2),  # 2 時間保持
    ),
)
print(f"Cache created: {cache.name}")

# Step 2: キャッシュ参照して生成（TTL 内は確実ヒット）
response = client.models.generate_content(
    model="gemini-2.5-flash",
    contents="Summarize the key points.",
    config=types.GenerateContentConfig(
        cached_content=cache.name,  # ← キャッシュ参照
    ),
)
print(response.text)

# Step 3: 不要になったら削除（ストレージ課金を止める）
client.caches.delete(name=cache.name)