1. Nimm das kleinste Modell, das deine Tests besteht
Die Preise unterscheiden sich um bis zu zwei Größenordnungen. Ein schnelles Modell erledigt Klassifizierung, Extraktion und kurze Antworten oft genauso gut wie ein Spitzenmodell. Teste echte Prompts mit zwei oder drei Modellklassen und nimm das günstigste Modell, dessen Antworten du guten Gewissens ausliefern würdest. Die Seite günstigste LLM-APIs vergleicht alle Modelle anhand derselben Aufgabe.
2. Cache, was sich wiederholt
Stell die Teile des Prompts, die sich nie ändern, an den Anfang. Bei der nächsten Anfrage werden sie zum Cache-Preis abgerechnet, oft für ein Zehntel des Eingabepreises. So funktioniert Prompt-Caching.
3. Begrenze die Ausgabe und das Reasoning
Ausgabe kostet ein Vielfaches der Eingabe, und das Reasoning eines Reasoning-Modells wird als Ausgabe abgerechnet. Setze max_tokens, fordere kurze Antworten an und stell reasoning_effort auf die niedrigste Stufe, bei der die Aufgabe noch richtig gelöst wird.
4. Sende weniger Kontext
Lange Chats senden alles bisher Gesagte erneut. Fasse ältere Nachrichten zusammen, rufe weniger und kürzere Textstellen ab und lass Tool-Definitionen weg, die eine Anfrage nicht braucht.
5. Route nach Schwierigkeit
Die meisten Anfragen sind einfach. Schick alltägliche Anfragen an ein schnelles Modell und nur schwierige an ein Spitzenmodell. Zurelay Auto entscheidet das für jede Anfrage und berechnet den Preis des Modells, das geantwortet hat.
6. Zahl nicht für Wiederholungen
Fehlerhaftes JSON und nicht eingehaltene Formate kosten eine zweite Anfrage. Strukturierte Ausgaben mit einem JSON-Schema liefern gleich beim ersten Mal das richtige Format. Bei Zurelay wechseln fehlgeschlagene Versuche auf eine andere Route und werden nicht berechnet.
7. Zahl weniger für dieselben Tokens
Dasselbe Modell ist günstiger als zum Listenpreis. Bei Zurelay kosten Chat-Modelle 3–90% weniger als der Listenpreis des jeweiligen Anbieters und sind über die OpenAI- und Anthropic-SDKs erreichbar. Rechne mit deinen Zahlen im Kostenrechner.
Erst messen
Jede Antwort enthält Nutzungsdaten: Prompt-, Cache- und Ausgabe-Tokens sowie Reasoning-Tokens, sofern das Modell sie meldet. Protokolliere sie eine Woche lang pro Feature, bevor du etwas änderst. So sparst du dort, wo die Kosten tatsächlich entstehen.