連携

ZurelayでLiteLLMを使う

全プロバイダーをOpenAI形式の1つのAPIで。Python SDKとプロキシサーバーを提供します。 開発元:BerriAI。

例で使用するモデル:

セットアップ

  1. 1

    インストール: Python SDKはpip install litellm、プロキシサーバーはpip install 'litellm[proxy]'です。

  2. 2

    ZurelayのモデルIDの先頭にopenai/を付け、api_baseにベースURL(/v1付き)を設定します。

  3. 3

    プロキシの場合は、config.yamlにモデルを並べてlitellm --config config.yamlを実行します。OpenAIクライアントもAnthropicクライアントも、http://localhost:4000で利用できます。

  4. 4

    use_chat_completions_apiとuse_chat_completions_url_for_anthropic_messagesはオンのままにしてください。これらがないと、LiteLLMはResponsesリクエストやAnthropic Messagesリクエスト(Claude Codeのもの)をOpenAIのResponses APIへの呼び出しに変換しますが、ZurelayはこのAPIを提供していません。

設定

model_list:
- model_name: claude-opus-5-5
litellm_params:
model: openai/claude-opus-5-5
api_base: https://api.zurelay.com/v1
api_key: os.environ/ZURELAY_API_KEY
use_chat_completions_api: true
model_info:
input_cost_per_token: 0.0000014
output_cost_per_token: 0.000007
cache_read_input_token_cost: 0.00000007
# Every other Zurelay model, as zurelay/<model ID>
- model_name: zurelay/*
litellm_params:
model: openai/*
api_base: https://api.zurelay.com/v1
api_key: os.environ/ZURELAY_API_KEY
use_chat_completions_api: true
litellm_settings:
use_chat_completions_url_for_anthropic_messages: true
check_provider_endpoint: true
general_settings:
master_key: os.environ/LITELLM_MASTER_KEY
LiteLLMは独自のリストでリクエストの料金を計算します。既知のモデルはラボの定価で、それ以外は料金が付きません。model_infoを設定すると、Zurelayの価格がLiteLLMの使用額トラッキングに反映されます。ClaudeをLiteLLMのanthropic/プロバイダー経由で使う場合は、/v1を付けずにhttps://api.zurelay.comを指定してください。/v1/messagesはLiteLLMが自動で付加します。

このセットアップを DeepSeek と Claude でエンドツーエンドで実行しました。LiteLLMガイドには、発生したすべてのエラーとその対処法、各テストタスクにかかった費用を掲載しています。

LiteLLMの公式ドキュメント

ご質問や不足している情報はありますか? サポートチームにお問い合わせください。通常1分以内にメールで回答します。