对话

Zurelay Auto

只需一个模型名称 zurelay-auto, 即可为每个请求选择合适的模型来响应。按实际响应模型的价格计费,响应中也会标明模型名称。任何支持模型 ID 的地方都能使用,流式输出、工具和推理级别的用法不变。

import os
from openai import OpenAI
client = OpenAI(
base_url="https://api.zurelay.com/v1",
api_key=os.environ["ZURELAY_API_KEY"],
)
response = client.chat.completions.create(
model="zurelay-auto",
messages=[
{
"role": "user",
"content": "Summarize this in one sentence: Zurelay is one API for many models."
}
],
)
print(response.choices[0].message.content)

如何选择模型

Auto 根据请求携带的信息直接选择模型,无需额外调用模型,因此不会增加延迟或费用。每个请求都会归入以下三个档位之一:

请求类型分配至
简短对话、问答、信息提取、摘要快速、低成本的模型
工具、需要遵循的 JSON schema (类型为 json_schema 的 response_format)、代码、超过 32K tokens 的提示词,或设为 low 或 medium 的 reasoning_effort能力更强的模型
设为 high、xhigh 或 max 的 reasoning_effort, 或预算较大的 Anthropic thinking能力最强的模型

在所属档位内,Auto 按顺序选择第一个满足以下条件的模型:能读取请求中的所有图片、PDF、音频或视频,上下文窗口能容纳提示词及其 max_tokens, 并且在你设置推理级别时支持该设置。你的 reasoning_effort 会采用该模型支持的最接近的级别。

可选模型

各档位按 Auto 的尝试顺序列出模型,并标明每 1M 输入和输出 tokens 的价格。随着更好或更便宜的模型推出,列表会更新,你的代码无需改动。

档位模型每 1M 输入 / 输出价格
日常DeepSeek V4.1 Flash$0.03 / $0.12
Gemini 3.1 Flash-Lite$0.10 / $0.59
Gemini 3.5 Flash-Lite$0.12 / $1.04
GPT-6 Luna$0.025 / $0.125
Qwen 3.8 Flash$0.07 / $0.22
Claude Haiku 5.5$0.04 / $0.20
工具、代码、结构化输出Claude Sonnet 5.5$0.79 / $3.95
GPT-6 Sol$0.50 / $2.50
Gemini 3.7 Flash$0.32 / $1.59
GPT-6.1 Sol$0.50 / $2.50
DeepSeek V4 Pro 0813$0.23 / $0.62
深度推理Claude Opus 5.5$1.40 / $7.00
GPT-6.1 Sol$0.50 / $2.50
GPT-6 Astra$2.50 / $12.50
Claude Fable 5.1$3.50 / $17.50

费用

每个请求按实际响应模型在 Zurelay 上的价格计费,模型选择不额外收费: 当前每 1M 输入 tokens 为 $0.025 至 $3.50, 每 1M 输出 tokens 为 $0.12 至 $17.50。与直接使用任何模型一样,失败的请求不收费 (参见计费)。

实际响应的模型

响应的 model 字段和 x-zurelay-model 响应头会标明实际响应的模型,x-zurelay-routed-from: zurelay-auto 则表明该模型由 Auto 选择。控制台的请求记录也会显示相同信息。

响应
HTTP/1.1 200 OK
x-zurelay-model: deepseek-v4.1-flash
x-zurelay-routed-from: zurelay-auto
{
"model": "deepseek-v4.1-flash",
"choices": [{ "message": { "role": "assistant", "content": "…" } }],
…
}

模型无法响应时

Auto 会尽力完成请求:

  1. 选中的模型会像 Zurelay 上的其他模型一样自动恢复:先重试,再使用该模型的备用路由。
  2. 如果仍无法响应,Auto 会继续尝试请求所属档位的其余模型,然后尝试高一档,最后尝试低一档,总共最多尝试五个模型。
  3. 只有所有尝试的模型都失败时,才会返回带有 model_unavailable 的 503 以及 retry-after 响应头。

这不受你的智能路由设置影响: Auto 始终执行此流程,x-zurelay-fallback 请求头和请求中的 models 列表也不会改变这一行为。

Anthropic 格式

POST /v1/messages 也接受 zurelay-auto。此时 Auto 会从支持 Anthropic 格式的 Claude 模型中选择,因此 Anthropic SDK 及基于这些 SDK 构建的工具都能像使用其他 Claude 模型一样正常工作。

API 密钥

仅限使用 zurelay-auto 的密钥 (参见密钥规则) 可以使用 Auto 选中的任何模型。消费限额和速率限制照常生效。也可以使用简短 ID auto。

错误

  • 400 unsupported_content: 可选模型中没有任何一个能同时读取请求中的所有媒体类型,例如同一请求中的音频和 PDF。请分开发送,或选择同时支持这两种类型的模型。
  • 400 context_length_exceeded: 请求长度超出了所有可选模型的处理范围。请缩短请求或减少要求的输出长度。
  • 503 model_unavailable: 所有尝试的模型均失败。请等待 retry-after 响应头指定的时长后重试。

希望每次都使用同一个模型?

请直接使用该模型的 ID。随着模型能力提升,Auto 的选择可能会变化,因此需要模型行为保持一致时,请固定使用指定模型。

有疑问,或发现内容缺失?联系我们的支持团队,我们会通过邮件回复,通常只需一分钟。