यह कैसे काम करता है
मॉडल प्रॉम्प्ट को शुरू से पढ़ता है। जब कोई नया अनुरोध हाल के किसी अनुरोध जैसे ही टोकन से शुरू होता है, तो सेवा देने वाली कंपनी वही काम दोबारा करने के बजाय पहले किए गए काम का इस्तेमाल कर सकती है और उन टोकन पर कैश की कम कीमत लेती है। सिर्फ़ मेल खाने वाला शुरुआती हिस्सा गिना जाता है: एक भी टोकन बदलने पर, वह टोकन और उसके बाद का सब कुछ फिर से नया इनपुट बन जाता है।
एजेंट, चैट ऐप्लिकेशन और दस्तावेज़ों पर सवाल-जवाब करने वाले ऐप्लिकेशन बार-बार वही निर्देश, टूल की परिभाषाएँ और दस्तावेज़ भेजते हैं, इसलिए उनके लिए इनपुट की कीमत से ज़्यादा कैश की कीमत मायने रखती है।
कैश किए गए टोकन की कीमत
| मॉडल | इनपुट / 1M | कैश से पढ़े गए / 1M | इनपुट कीमत का हिस्सा |
|---|---|---|---|
| Claude Opus 5.5 | $1.40 | $0.07 | 5% |
| Claude Sonnet 5.5 | $0.79 | $0.079 | 10% |
| GPT-6 Astra | $2.50 | $0.25 | 10% |
| GPT-6 Sol | $0.50 | $0.05 | 10% |
| Gemini 3.1 Pro | $0.50 | $0.08 | 16% |
| Gemini 3.8 Flash | $0.22 | $0.032 | 14.5% |
| DeepSeek V4.1 Flash | $0.03 | $0.00074 | 2.5% |
| Qwen 3.8 Max | $1.20 | $0.15 | 12.5% |
Zurelay पर मौजूदा कीमतें। हर मॉडल के पेज पर उसकी पूरी मूल्य सूची है।
Claude आपके चिह्नित हिस्सों को कैश करता है
Claude उन ब्लॉक को पाँच मिनट के लिए कैश करता है जिन्हें आप cache_control से चिह्नित करते हैं, या "ttl": "1h" के साथ एक घंटे के लिए। पाँच मिनट के लिए कैश में लिखने की कीमत इनपुट की कीमत से 1.25 गुना और एक घंटे के लिए 2 गुना होती है। Anthropic पर कैश से पढ़ने की कीमत पुराने मॉडल में इनपुट कीमत का दसवाँ हिस्सा, Opus और Sonnet 5.5 में 0.05 गुना, और Fable 5.1 में 0.025 गुना है; हर मॉडल के पेज पर Zurelay की कैश से पढ़ने की कीमत दी गई है। Claude Code आपके प्रॉम्प्ट अपने-आप चिह्नित करता है। ज़्यादातर दूसरे मॉडल दोहराए गए शुरुआती हिस्से को अपने-आप कैश कर लेते हैं।
कैश का फ़ायदा कैसे पाएँ
- जो कभी नहीं बदलता, उसे पहले रखें: निर्देश, टूल की परिभाषाएँ, संदर्भ दस्तावेज़। फिर बातचीत, और आखिर में नया सवाल।
- उस शुरुआती हिस्से को बाइट-दर-बाइट एक जैसा रखें। शुरुआत में टाइमस्टैम्प, अनुरोध ID या टूल की सूची का बदला हुआ क्रम होने पर किसी भी अनुरोध को कैश का फ़ायदा नहीं मिलेगा।
- अगले सवाल जल्द भेजें। कैश कुछ ही मिनटों में समाप्त हो जाता है, इसलिए जल्दी-जल्दी भेजे गए अनुरोधों को कैश का फ़ायदा मिलता है, लेकिन एक घंटे बाद भेजे गए अनुरोध में फिर से शुरुआत होती है (जब तक आपने Claude से एक घंटे के लिए कैश करने को न कहा हो)।
जाँचें कि यह काम कर रहा है
हर जवाब में इस्तेमाल की जानकारी बताती है कि कितना हिस्सा कैश से आया: Chat Completions में usage.prompt_tokens_details.cached_tokens, और Anthropic के Messages API में cache_read_input_tokens और cache_creation_input_tokens। अगर बार-बार अनुरोध भेजने पर भी कैश किए गए टोकन की गिनती शून्य रहती है, तो प्रॉम्प्ट की शुरुआत में कुछ बदल रहा है।
पूरे महीने के खर्च पर कैशिंग का असर देखने के लिए, LLM लागत कैलकुलेटर में कैश किए गए हिस्से का अनुपात सेट करें।