身份
我们使用不同的系统提示词和客户角色设定,询问每个模型的身份。如果模型自称是其他产品,或不再遵循给定指令,就无法通过测试。
低价从何而来
官方定价是单个开发者为单次请求支付的价格。提前采购算力的成本低得多,其中一部分如果不利用起来,就会被浪费。
企业和 AI 平台会通过预付额度、承诺消费合同、阶梯批量定价和套餐配额等方式提前采购模型算力。通过这些方式采购,每个 token 的成本远低于官方标价。
实际用量很少与预测完全一致。未在有效期内用完的算力会直接作废,因此持有者宁愿低于官方标价出售,也不愿让它过期。
Zurelay 为每个模型汇集多家供应商,测试每条路由,并将每个请求发送到可用、已验证且价格合适的算力。你只需支付官方标价的一小部分,就能使用指定的模型。
请求由独立的基础设施提供商处理,而非模型厂商本身,因此模型厂商面向其客户的条款并不适用于这些提供商。我们的条款(第 3.3 和 3.4 节)说明了请求的处理方式及检查范围。
验证方式
价目表上的模型名称并不能证明什么。我们通过这些检查,确认每条路由实际提供的确实是其声称的模型,且运行正常。
我们使用不同的系统提示词和客户角色设定,询问每个模型的身份。如果模型自称是其他产品,或不再遵循给定指令,就无法通过测试。
每一代模型的知识都有各自的训练截止日期。通过询问答案已知、发生时间明确的事件,可以识别冒充新模型出售的旧模型或低价模型。
答案唯一的题目可以识别以小模型替代大模型的情况,即使两者的文风看起来相同。
我们会根据发送的内容,核对路由报告的模型名称和 token 数量。不一致可能意味着实际使用了其他模型,或添加了隐藏指令;你无需为未发送的 token 付费。
我们会要求生成特定尺寸和宽高比的图像,并测量返回结果。返回更小的图像或其他模型输出的路由无法通过测试。
OpenAI 和 Anthropic 格式的工具调用,以及流式传输,都必须按照模型厂商文档所述正常运行。
通过一次检查还不够。供应商随时可能更换后台运行的模型,因此检查不会停止。
这些检查涵盖哪些内容
从每条路由开始服务前,到持续提供服务的整个期间,这些检查都会验证你获得的确实是所请求的模型,且运行正常。我们不会公开具体测试内容,以免有人针对测试作弊。
正在基于 Zurelay 开发?验证文档从 API 使用者的角度介绍了同样的检查,状态页面则展示每个模型的实时运行状况。
通过 Zurelay 销售
我们与能够以低于官方定价稳定提供 AI 模型服务的企业和个人合作。以下是我们的要求和合作流程。
不替换模型,不暗中降级,也不用旧快照冒充新模型。
不添加会改变回答的指令,也不在输出中插入任何内容。
除处理请求所必需的操作外,不存储、审阅请求,也不将其用于训练。
所提供的算力须获准转售,且来自你有权管理的账户和协议。
实际并发能力与承诺一致,达到上限时返回明确的错误。
价格显著低于官方定价,保持稳定,调整前提前通知。
告诉我们你提供哪些模型、能承载多少流量,以及大致价格。填写约需三分钟,无需提供密钥。
我们的团队会逐一人工审核申请,通常在三个工作日内通过邮件回复。
我们会对你的服务执行本页列出的全部检查。通过后才会向客户提供服务。
双方商定价格和付款条款后,我们会将你的服务接入路由,并持续每天检查。
应用
填写约需三分钟。每份申请都会由专人审核,我们会通过邮件回复。
不需要。申请过程中不会索要密钥或密码,请勿发送。如果你的服务符合要求,我们会说明如何安排测试。
我们目录中已有的模型和尚未上架的模型都欢迎。同一模型的供应商越多,客户使用时的可用性就越高,所以我们也欢迎提供已上架模型的供应商。
都可以。我们看的是服务质量,而不是背后的企业规模:模型必须真实,算力供应必须稳定,价格必须低于官方标价。
在接入任何流量之前,我们会与每家供应商约定价格、结算币种和付款条款。
不可以。客户选择模型,由 Zurelay 选择路由。我们不会向客户披露供应商名称,也不会向供应商提供客户的姓名、邮箱地址或账单信息。
每条路由在为客户提供服务前都会接受这项测试,之后每天也会复测;未通过的路由会被停用。我们的服务条款说明了这些检查的覆盖范围。