Zurelay ile LiteLLM

Kurulum

1. 1

   Kurun: Python SDK için pip install litellm, proxy sunucusu için pip install 'litellm[proxy]'.

2. 2

   Zurelay model kimliklerinin başına openai/ ekleyin ve api_base değerini /v1 ile birlikte temel URL olarak ayarlayın.

3. 3

   Proxy için modelleri config.yaml dosyasında listeleyin ve litellm --config config.yaml komutunu çalıştırın. http://localhost:4000 adresinde hem OpenAI hem Anthropic istemcilerine hizmet verir.

4. 4

   use_chat_completions_api ve use_chat_completions_url_for_anthropic_messages seçeneklerini açık tutun. Aksi halde LiteLLM, Responses ve Anthropic Messages isteklerini (Claude Code'unkiler dahil) OpenAI'ın Responses API'sine yapılan çağrılara çevirir; Zurelay bu API'yi sunmaz.

Yapılandırma

model_list:
  - model_name: claude-opus-5-5
    litellm_params:
      model: openai/claude-opus-5-5
      api_base: https://api.zurelay.com/v1
      api_key: os.environ/ZURELAY_API_KEY
      use_chat_completions_api: true
    model_info:
      input_cost_per_token: 0.0000014
      output_cost_per_token: 0.000007
      cache_read_input_token_cost: 0.00000007
  # Every other Zurelay model, as zurelay/<model ID>
  - model_name: zurelay/*
    litellm_params:
      model: openai/*
      api_base: https://api.zurelay.com/v1
      api_key: os.environ/ZURELAY_API_KEY
      use_chat_completions_api: true
litellm_settings:
  use_chat_completions_url_for_anthropic_messages: true
  check_provider_endpoint: true
general_settings:
  master_key: os.environ/LITELLM_MASTER_KEY

Bu kurulumu DeepSeek ve Claude ile baştan sona çalıştırdık. LiteLLM rehberinde karşılaştığımız tüm hataları, çözümlerini ve her test görevinin maliyetini bulabilirsiniz.

LiteLLM dokümantasyonu