LLM-API-kostencalculator. Elk model, hetzelfde gebruik.

Vermenigvuldig het aantal tokens dat je verstuurt met de inputprijs en het aantal tokens dat je terugkrijgt met de outputprijs, beide per 1M tokens, en daarna met het aantal verzoeken. Voor input uit de promptcache geldt het lagere cachetarief, en sommige modellen rekenen een hoger tarief voor lange prompts. De calculator berekent dit allemaal voor elk model tegelijk.

Een stukje van een woord. In het Engels komen 1,000 tokens neer op ongeveer 750 woorden, maar de tokenizer van elk lab splitst tekst net anders op. Ook afbeeldingen, PDF's en audio tellen als tokens. Je API-responses vermelden de exacte aantallen in het veld usage.

Voor een chatbot met 50,000 requests per maand (1,500 inputtokens, 300 outputtokens) is Ministral 3 3B momenteel het goedkoopste chatmodel op Zurelay, voor $2.70 per maand. Pas het gebruik hierboven aan om te zien hoe de rangschikking verandert: bij veel output of veel gecachete input komen andere modellen bovenaan.

Een token genereren kost veel meer rekenkracht dan er een lezen. Daarom rekenen labs voor output een veelvoud van de inputprijs. Door max_tokens te beperken en om korte antwoorden te vragen, bespaar je meestal het meest.

Van de gepubliceerde API-prijzen van elk lab. Gecachete input krijgt in de kolom met catalogusprijzen dezelfde procentuele korting als bij Zurelay. Voor lange prompts geldt het hogere tarief van het lab, als dat er is.