Integrações

LiteLLM com a Zurelay

Uma API ao estilo OpenAI para todos os fornecedores: um SDK Python e um servidor proxy. Criado por BerriAI.

Modelo nos exemplos:

Configurar

  1. 1

    Instale-o: pip install litellm para o SDK Python ou pip install 'litellm[proxy]' para o servidor proxy.

  2. 2

    Coloque openai/ antes dos IDs de modelo da Zurelay e defina api_base como o URL base, com /v1.

  3. 3

    Para o proxy, indique os modelos em config.yaml e execute litellm --config config.yaml. Serve http://localhost:4000 tanto a clientes OpenAI como Anthropic.

  4. 4

    Mantenha use_chat_completions_api e use_chat_completions_url_for_anthropic_messages ativos. Sem eles, o LiteLLM converte os pedidos Responses e Anthropic Messages (como os do Claude Code) em chamadas à API Responses da OpenAI, que a Zurelay não disponibiliza.

Configuração

model_list:
  - model_name: claude-opus-5-5
    litellm_params:
      model: openai/claude-opus-5-5
      api_base: https://api.zurelay.com/v1
      api_key: os.environ/ZURELAY_API_KEY
      use_chat_completions_api: true
    model_info:
      input_cost_per_token: 0.0000014
      output_cost_per_token: 0.000007
      cache_read_input_token_cost: 0.00000007
  # Every other Zurelay model, as zurelay/<model ID>
  - model_name: zurelay/*
    litellm_params:
      model: openai/*
      api_base: https://api.zurelay.com/v1
      api_key: os.environ/ZURELAY_API_KEY
      use_chat_completions_api: true
litellm_settings:
  use_chat_completions_url_for_anthropic_messages: true
  check_provider_endpoint: true
general_settings:
  master_key: os.environ/LITELLM_MASTER_KEY
O LiteLLM calcula o preço dos pedidos a partir da sua própria lista: ao preço de tabela do laboratório para os modelos que conhece e, para os restantes, não calcula nada. O model_info coloca os preços da Zurelay no seu acompanhamento de gastos. Para usar o Claude através do fornecedor anthropic/ do LiteLLM, use https://api.zurelay.com sem /v1; o LiteLLM acrescenta /v1/messages por si.

Testámos esta configuração de ponta a ponta com DeepSeek e Claude. O guia de LiteLLM reúne todos os erros que encontrámos, como os resolver e quanto custou cada tarefa de teste.

Documentação de LiteLLM

Tem dúvidas ou falta alguma coisa? Contacte a nossa equipa de apoio e responderemos por email, normalmente num minuto.