So funktioniert’s
Ein Modell liest einen Prompt von Anfang an. Beginnt ein neuer Request mit denselben Tokens wie ein kürzlich gesendeter, kann der Anbieter die bereits geleistete Arbeit wiederverwenden, statt sie zu wiederholen. Diese Tokens werden dann zum günstigeren Cache-Preis abgerechnet. Nur der übereinstimmende Anfang zählt: Ab dem ersten geänderten Token ist alles wieder neuer Input.
Agents, Chat-Apps und Dokumenten-Q&A senden dieselben Anweisungen, Tool-Definitionen und Dokumente immer wieder. Für sie ist der Cache-Preis daher wichtiger als der Input-Preis.
Was zwischengespeicherte Tokens kosten
| Modell | Input / 1M | Cache / 1M | Cache-Anteil |
|---|---|---|---|
| Claude Opus 5.5 | $1.40 | $0.07 | 5% |
| Claude Sonnet 5.5 | $0.79 | $0.079 | 10% |
| GPT-6 Astra | $2.50 | $0.25 | 10% |
| GPT-6 Sol | $0.50 | $0.05 | 10% |
| Gemini 3.1 Pro | $0.50 | $0.08 | 16% |
| Gemini 3.8 Flash | $0.22 | $0.032 | 14.5% |
| DeepSeek V4.1 Flash | $0.03 | $0.00074 | 2.5% |
| Qwen 3.8 Max | $1.20 | $0.15 | 12.5% |
Aktuelle Preise bei Zurelay. Die vollständige Preisliste findest du auf der Seite des jeweiligen Modells.
Claude speichert, was du markierst
Claude speichert Blöcke, die du mit cache_control markierst, für fünf Minuten im Cache – oder für eine Stunde mit "ttl": "1h". Das Schreiben in den Cache kostet für fünf Minuten das 1.25-Fache des Input-Preises und für eine Stunde das 2-Fache. Bei Anthropic kostet das Lesen aus dem Cache bei älteren Modellen ein Zehntel, bei Opus und Sonnet 5.5 das 0.05-Fache und bei Fable 5.1 das 0.025-Fache. Den Cache-Preis bei Zurelay findest du auf der Seite des jeweiligen Modells. Claude Code markiert seine Prompts für dich. Die meisten anderen Modelle speichern einen wiederholten Anfang automatisch im Cache.
So erzielst du Cache-Treffer
- Setze Unveränderliches an den Anfang: Anweisungen, Tool-Definitionen und Referenzdokumente. Danach folgen die Unterhaltung und die neue Frage.
- Lass diesen Anfang Byte für Byte gleich. Ein Zeitstempel, eine Request-ID oder eine anders sortierte Tool-Liste am Anfang verhindert jeden Cache-Treffer.
- Sende Folgeanfragen zeitnah. Cache-Einträge laufen nach wenigen Minuten ab. Mehrere Requests kurz hintereinander treffen den Cache; ein Request eine Stunde später beginnt von vorn (außer du hast bei Claude eine Stunde festgelegt).
Prüfen, ob es funktioniert hat
Die Nutzungsdaten in jeder Antwort zeigen, wie viel aus dem Cache kam: usage.prompt_tokens_details.cached_tokens bei Chat Completions sowie cache_read_input_tokens und cache_creation_input_tokens bei Anthropic's Messages API. Bleibt die Anzahl gecachter Tokens bei wiederholten Anfragen bei null, ändert sich etwas am Anfang des Prompts.
Um zu sehen, was Caching über einen ganzen Monat bringt, stell den Cache-Anteil im LLM-Kostenrechner ein.