1. Use o menor modelo que passe nos seus testes
Os preços variam em duas ordens de grandeza, e uma categoria de modelos rápidos dá conta de classificação, extração e respostas curtas tão bem quanto um modelo de ponta. Teste uma amostra de prompts reais em duas ou três categorias e fique com o modelo mais barato cujas respostas você usaria em produção. A página de APIs de LLM mais baratas classifica todos os modelos com base na mesma carga de trabalho.
2. Coloque em cache o que se repete
Coloque primeiro as partes do prompt que nunca mudam, e elas serão cobradas pelo preço de cache na próxima solicitação, muitas vezes um décimo do preço de entrada. Como funciona o cache de prompts.
3. Limite a saída e o raciocínio
A saída custa várias vezes mais que a entrada, e o raciocínio de um modelo é cobrado como saída. Defina max_tokens, peça respostas curtas e ajuste reasoning_effort para o nível mais baixo que ainda execute a tarefa corretamente.
4. Envie menos contexto
Conversas longas reenviam tudo o que foi dito até então. Resuma as interações antigas, recupere menos trechos e mais curtos, e remova as definições de ferramentas de que a solicitação não precisa.
5. Roteie por dificuldade
A maioria das solicitações é simples. Envie as do dia a dia para um modelo rápido e só as difíceis para um modelo de ponta. O Zurelay Auto faz isso a cada solicitação e cobra o preço do modelo que respondeu.
6. Pare de pagar por novas tentativas
JSON malformado e formatos recusados custam uma segunda solicitação. A saída estruturada com um esquema JSON garante o formato certo já na primeira tentativa. Na Zurelay, tentativas que falham em uma rota passam para outra e não são cobradas.
7. Pague menos pelos mesmos tokens
O mesmo modelo sai mais barato com desconto sobre o preço de tabela. Na Zurelay, os modelos de chat custam 3–90% menos que o preço de tabela de cada laboratório, pelos SDKs da OpenAI e da Anthropic. Simule seus números na calculadora de custos.
Meça primeiro
Cada resposta traz seus dados de uso: tokens de prompt, de cache e de conclusão, além de tokens de raciocínio quando o modelo os informa. Registre esses dados por funcionalidade durante uma semana antes de mudar qualquer coisa, para cortar onde o dinheiro realmente está sendo gasto.