Calculateur de coût d’API de LLM. Tous les modèles, une même charge de travail.

Multipliez les tokens envoyés par le tarif d’entrée et les tokens reçus par le tarif de sortie, tous deux pour 1M tokens, puis par le nombre de requêtes. Les tokens d’entrée lus depuis le cache de prompts sont facturés au tarif réduit du cache, et certains modèles appliquent un tarif supérieur aux prompts longs. Le calculateur fait tout cela pour chaque modèle à la fois.

Un fragment de mot. En anglais, 1,000 tokens correspondent à environ 750 mots, mais chaque fournisseur découpe le texte un peu différemment. Les images, les PDF et l’audio comptent aussi comme des tokens. Les réponses de l’API indiquent les nombres exacts dans leur champ usage.

Pour un chatbot traitant 50,000 requêtes par mois (1,500 tokens en entrée, 300 en sortie), le modèle de chat le moins cher sur Zurelay est actuellement Ministral 3 3B, à $2.70 par mois. Modifiez la charge de travail ci-dessus pour voir le classement évoluer : les usages avec beaucoup de tokens en sortie ou de cache ne favorisent pas les mêmes modèles.

Générer un token demande bien plus de calcul que le lire, les fournisseurs facturent donc la sortie plusieurs fois plus cher. Limiter max_tokens et demander des réponses courtes sont généralement les moyens les plus efficaces de réduire les coûts.

Des tarifs d’API publiés par chaque fournisseur. Dans la colonne des tarifs catalogue, les tokens d’entrée en cache bénéficient du même taux de réduction que celui appliqué par Zurelay, et les prompts longs passent au palier tarifaire supérieur du fournisseur lorsqu’il en propose un.