1. Use o modelo mais pequeno que passe nos seus testes
Os preços variam em duas ordens de grandeza, e um modelo de escalão rápido lida com classificação, extração e respostas curtas tão bem como um modelo de topo. Teste uma amostra de prompts reais em dois ou três escalões e fique com o mais barato cujas respostas usaria em produção. A página das APIs de LLM mais baratas compara todos os modelos com a mesma carga de trabalho.
2. Coloque em cache o que se repete
Coloque primeiro as partes do prompt que nunca mudam e, no pedido seguinte, serão faturadas ao preço de cache, muitas vezes um décimo do preço de entrada. Como funciona a cache de prompts.
3. Limite a saída e o raciocínio
A saída custa várias vezes mais do que a entrada, e o raciocínio de um modelo é faturado como saída. Defina max_tokens, peça respostas curtas e ajuste reasoning_effort para o nível mais baixo que ainda permita executar corretamente a tarefa.
4. Envie menos contexto
As conversas longas reenviam tudo o que foi dito até ao momento. Resuma as interações antigas, recupere menos excertos e mais curtos, e remova as definições de ferramentas de que o pedido não precisa.
5. Encaminhe por dificuldade
A maioria dos pedidos é simples. Envie os pedidos habituais para um modelo rápido e apenas os difíceis para um modelo de topo. O Zurelay Auto faz isto a cada pedido e cobra o preço do modelo que respondeu.
6. Deixe de pagar por novas tentativas
JSON malformado e formatos recusados obrigam a um segundo pedido. A saída estruturada com um esquema JSON garante o formato certo à primeira. No Zurelay, as tentativas que falham numa rota passam para outra e não são faturadas.
7. Pague menos pelos mesmos tokens
O mesmo modelo fica mais barato com um desconto sobre o preço de tabela. No Zurelay, os modelos de chat custam 3–90% menos do que o preço de tabela de cada laboratório, através dos SDKs da OpenAI e da Anthropic. Experimente os seus valores na calculadora de custos.
Meça primeiro
Cada resposta inclui os dados de utilização: tokens do prompt, em cache e de saída, e tokens de raciocínio quando o modelo os reporta. Registe-os por funcionalidade durante uma semana antes de alterar seja o que for, para reduzir os custos onde realmente gasta.