İstem önbellekleme: LLM API faturalarını nasıl düşürür

İstem önbellekleme, istemin tekrarlanan başlangıç bölümünü girdi fiyatının çok altında ücretlendirir: Claude'da onda biri veya daha azı, bazı diğer modellerdeyse yalnızca yüzde birkaçı.

· Zurelay rehberleri · Fiyatlar anlık güncellenir

Nasıl çalışır

Model, istemi baştan okumaya başlar. Yeni bir istek, yakın zamandaki bir istekle aynı token'larla başlıyorsa sağlayıcı bu işlemi tekrarlamak yerine önceki çalışmayı yeniden kullanabilir ve bu token'ları daha düşük önbellek fiyatından ücretlendirir. Yalnızca eşleşen başlangıç bölümü sayılır: tek bir token değişirse o token ve sonrasındaki her şey yeniden yeni girdi sayılır.

Ajanlar, sohbet uygulamaları ve belge üzerinden soru-cevap sistemleri aynı talimatları, araç tanımlarını ve belgeleri tekrar tekrar gönderir; bu yüzden onlar için önbellek fiyatı, girdi fiyatından daha önemlidir.

Önbellekteki token'ların maliyeti

ModelGirdi / 1MÖnbellek / 1MGirdi fiyatına oranı
Claude Opus 5.5$1.40$0.075%
Claude Sonnet 5.5$0.79$0.07910%
GPT-6 Astra$2.50$0.2510%
GPT-6 Sol$0.50$0.0510%
Gemini 3.1 Pro$0.50$0.0816%
Gemini 3.8 Flash$0.22$0.03214.5%
DeepSeek V4.1 Flash$0.03$0.000742.5%
Qwen 3.8 Max$1.20$0.1512.5%

Zurelay'deki güncel fiyatlar. Her modelin sayfasında tam fiyat listesi bulunur.

Claude işaretlediğiniz bölümleri önbelleğe alır

Claude, cache_control ile işaretlediğiniz blokları beş dakika, "ttl": "1h" ile bir saat önbellekte tutar. Önbelleğe yazma, beş dakika için girdi fiyatının 1.25 katı, bir saat için 2 katıdır. Anthropic'te önbellekten okuma maliyeti eski modellerde girdi fiyatının onda biri, Opus ve Sonnet 5.5'te 0.05 katı, Fable 5.1'de ise 0.025 katıdır; her modelin sayfasında Zurelay'nin önbellek fiyatı bulunur. Claude Code, istemleri sizin yerinize işaretler. Diğer modellerin çoğu, tekrarlanan başlangıç bölümünü otomatik olarak önbelleğe alır.

Önbellekten nasıl yararlanırsınız

  • Hiç değişmeyen içeriği başa koyun: talimatlar, araç tanımları, referans belgeler. Ardından konuşmayı, en sona da yeni soruyu ekleyin.
  • Bu başlangıç bölümünü baytı baytına aynı tutun. Başta yer alan bir zaman damgası, istek kimliği veya sırası değiştirilmiş araç listesi, her isteğin önbelleği kaçırmasına neden olur.
  • Takip isteklerini geciktirmeden gönderin. Önbelleklerin süresi dakikalar içinde dolar; bu yüzden peş peşe istekler önbellekten yararlanırken bir saat sonraki istek sıfırdan başlar (Claude'dan bir saatlik önbellek istemediyseniz).

Çalıştığını kontrol edin

Her yanıttaki kullanım bilgisi, ne kadarının önbellekten geldiğini gösterir: Chat Completions için usage.prompt_tokens_details.cached_tokens, Anthropic Messages API için cache_read_input_tokens ve cache_creation_input_tokens. Tekrarlanan isteklerde önbellekten gelen token sayısı sıfırda kalıyorsa istemin başında bir şeyler değişiyordur.

Önbelleklemenin aylık maliyete etkisini görmek için LLM maliyet hesaplayıcısında önbellekten karşılanan oranı ayarlayın.

Tüm modeller, liste fiyatının altında, OpenAI uyumlu tek bir anahtarla. $10'dan başlayan bakiye, abonelik yok.API anahtarınızı alın

Diğer rehberler

Liste fiyatını ödemeyi bırakın.
Bugün tasarruf etmeye başlayın.

Saniyeler içinde bir anahtar oluşturun, kullandığınız SDK'yı Zurelay'e yönlendirin ve ilk tokendan itibaren her istekte %90'a varan tasarruf sağlayın.