1. वह सबसे छोटा मॉडल चुनें जो आपके टेस्ट पास करे
मॉडल की कीमतों में 100 गुना तक का फ़र्क होता है, और तेज़ मॉडल वाला स्तर वर्गीकरण, जानकारी निकालने और छोटे जवाब देने में फ़्लैगशिप जितना ही अच्छा काम कर सकता है। असली प्रॉम्प्ट का एक नमूना दो या तीन स्तरों पर चलाएँ और वह सबसे सस्ता मॉडल चुनें जिसके जवाब आप अपने उपयोगकर्ताओं को देना चाहेंगे। सबसे सस्ते LLM API पेज पर सभी मॉडल की रैंकिंग एक ही वर्कलोड के आधार पर दी गई है।
2. दोहराए जाने वाले हिस्से कैश करें
प्रॉम्प्ट के जो हिस्से कभी नहीं बदलते, उन्हें शुरुआत में रखें। अगले अनुरोध में उनका शुल्क कैश वाली दर पर लगेगा, जो अक्सर इनपुट की कीमत का दसवाँ हिस्सा होती है। प्रॉम्प्ट कैशिंग कैसे काम करती है।
3. आउटपुट और सोचने की सीमा तय करें
आउटपुट की लागत इनपुट से कई गुना ज़्यादा होती है, और रीजनिंग मॉडल के सोचने का शुल्क भी आउटपुट की तरह लगता है। max_tokens सेट करें, छोटे जवाब माँगें और reasoning_effort को उस सबसे कम स्तर पर सेट करें जिस पर काम सही होता हो।
4. कम कॉन्टेक्स्ट भेजें
लंबी चैट में अब तक कही गई हर बात दोबारा भेजी जाती है। पुरानी बातचीत का सारांश बनाएँ, कम और छोटे अंश खोजकर लाएँ, और जिन टूल की परिभाषाओं की अनुरोध में ज़रूरत नहीं है, उन्हें हटा दें।
5. मुश्किल के हिसाब से राउट करें
ज़्यादातर अनुरोध आसान होते हैं। रोज़मर्रा के अनुरोध तेज़ मॉडल को भेजें और सिर्फ़ मुश्किल अनुरोध फ़्लैगशिप को। Zurelay Auto हर अनुरोध के लिए यही करता है और जवाब देने वाले मॉडल की दर से शुल्क लेता है।
6. दोबारा कोशिशों पर खर्च करना बंद करें
गलत फ़ॉर्मैट वाले JSON और माँगे गए फ़ॉर्मैट को न मानने वाले जवाबों के कारण दूसरा अनुरोध भेजना पड़ता है। JSON स्कीमा के साथ स्ट्रक्चर्ड आउटपुट पहली बार में ही सही ढाँचा देता है। Zurelay पर किसी रूट में कोशिश नाकाम होने पर अनुरोध दूसरे रूट पर भेजा जाता है और नाकाम कोशिशों का शुल्क नहीं लगता।
7. उन्हीं टोकन के लिए कम भुगतान करें
लिस्ट प्राइस से कम दर पर वही मॉडल सस्ता पड़ता है। Zurelay पर चैट मॉडल हर लैब की लिस्ट प्राइस से 3–90% कम दर पर मिलते हैं, OpenAI और Anthropic के SDK के ज़रिए। लागत कैलकुलेटर में अपने आँकड़े डालकर देखें।
पहले मापें
हर जवाब के साथ इस्तेमाल की जानकारी आती है: प्रॉम्प्ट, कैश किए गए और कम्प्लीशन टोकन, साथ ही रीजनिंग टोकन भी, जहाँ मॉडल उनकी जानकारी देता है। कुछ भी बदलने से पहले एक हफ़्ते तक हर फ़ीचर के लिए इन्हें लॉग करें, ताकि आप वहीं कटौती करें जहाँ असल में पैसा खर्च हो रहा है।