OpenAI
运行正常· 每隔几分钟检查一次

GPT-6 Luna Decisions API

GPT-6 Luna Decisions API:OpenAI 的决策模型,针对文本和图像的分类与评分问题,直接返回概率而非文本。输入每 1M token 仅需 $0.04,输出免费。

每 1M 输入 token 的价格60%优惠
输入
$0.04$0.10
输出
$0.00
模型 IDgpt-6-luna-decisions
triage.py
# pip install --upgrade openai
from openai import OpenAI
client = OpenAI(
base_url="https://api.zurelay.com/v1",
api_key="YOUR_ZURELAY_KEY",
)
decision = client.decisions.create(
model="gpt-6-luna-decisions",
input="I was charged twice for October, please refund one of the charges today.",
questions=[
{
"type": "predicate",
"name": "refund",
"instructions": "Is the customer asking for money back?",
},
{
"type": "choice",
"name": "team",
"instructions": "Which team should handle this?",
"choices": [
{"value": "billing", "description": "Charges and refunds"},
{"value": "technical", "description": "Bugs and outages"},
],
},
{
"type": "score",
"name": "urgency",
"instructions": "How urgent is it?",
"levels": [{"label": "can wait"}, {"label": "this week"}, {"label": "today"}],
},
],
)
# One answer per question, in the order asked
for answer in decision.answers:
if answer.type == "predicate":
print(answer.name, answer.probability) # how likely it's true, 0 to 1
elif answer.type == "choice":
print(answer.name, answer.choice) # "billing" or "technical"
elif answer.type == "score":
print(answer.name, answer.score) # 0 to 2, can land between levels
else:
print(answer.name, "refused") # the other questions still get answers

Base URL https://api.zurelay.com/v1. 支持 OpenAI 的 Python 和 Node.js SDK:client.decisions.create。 Decisions API 文档

问题
判断 · 选择 · 评分
按请求设置
最多 1.05M tokens 个
输入
Text, Image
输出
结构化回答,免费
状态
运行正常

价格

GPT-6 Luna Decisions API 价格。 仅需官方定价的一小部分。

从预付余额中按量扣费,无需订阅。$10 起充。请求失败不收费。

单价ZurelayOpenAI 原价
输入
每 1M tokens
$0.04$0.10
输出
每 1M tokens
$0.00—

按模型统计的输入 token 计费:你的输入只计一次,另外每个问题由模型额外计入约 110 到 160 个 token,图片则按尺寸和细节级别计算。与 OpenAI 一样,模型的回答免费。失败的请求不收费。

省钱计算器

拖动滑块设置每月用量。

每月输入 token 数50M
Zurelay
$2.00
OpenAI 原价
$5.00
每月节省$3.00

每年 $36.00

概览

GPT-6 Luna Decisions 是什么?

GPT-6 Luna Decisions 是 OpenAI Decisions API 背后的模型:它针对输入内容回答分类或打分类问题,一次请求可以处理多个问题,并为每个问题返回带概率的结构化答案,而不是生成文本。Zurelay API 使用与 OpenAI 相同的端点和请求格式提供该模型,因此 OpenAI 的 SDK 只需换上 Zurelay 的 base URL 即可使用,价格比 OpenAI 官方定价低 60%。

你发送一个输入,可以是文本、带图片的用户消息,或 JSON,同时附上最多 64 个问题。问题分为三种类型。predicate 用来判断关于输入的某个陈述有多大可能为真,返回 0 到 1 之间的概率。choice 从你列出的 2 到 255 个值(文本或 true/false,每个值可附带描述)中选出一个,返回该值、置信度,以及每个值的概率。score 把输入放到你描述的 2 到 10 个有序等级上(从低到高排列),返回期望等级(可能落在两个等级之间)、置信度,以及每个等级的概率。答案按你提问的顺序返回;任何一个问题都可能被拒绝回答,其余问题仍会正常作答。

它适用于软件每天要做很多次的判断:工单和请求的路由与分流、审核类检查、把记录和文档归入你自定义的类别、相关性或情感打分,以及判断智能体的下一步能否执行的防护规则。借助返回的概率,你的代码可以直接处理明确的情况,把不确定的交给人工或更大的模型。一次请求中的每个问题都会读取同一份输入,因此把多个问题放在一起问,比逐个单独提问更省钱。在我们的测试中,响应时间为 0.3 到 1 秒;带图片时约为 1 秒;900K token 的输入约 10 秒返回。

Zurelay 通过 OpenAI 的 Decisions API 提供该模型:向 POST https://api.zurelay.com/v1/decisions 发送包含 model、input 和 questions 的请求,返回结果中的答案和用量(usage)采用 OpenAI 的格式。OpenAI 的 SDK 可直接使用:将 base URL 设为 https://api.zurelay.com/v1,填入你的 Zurelay 密钥,然后调用 client.decisions.create(Node.js 需要 openai 7.30.0 或更高版本)。模型 ID 为 gpt-6-luna-decisions,在此端点上也可以使用 gpt-6-luna,与 OpenAI 的 SDK 文档一致。单个请求最多可包含 1,050,000 个 token,图片支持 base64 data URL 或公开的 https 链接,格式为 PNG、JPEG、WebP 或 GIF。仅处理 user 消息,答案会一次性完整返回,不支持流式输出。

它只按输入 token 计费,与 OpenAI 的方式相同:在 Zurelay 上每 1M 为 $0.04,OpenAI 为 $0.10,输出内容免费。模型会计入一次你的输入,另外每个问题约增加 110 到 160 个自身 token,所以对一段短文本做一次单问题检查约为 160 个 token,费用远低于千分之一美分。一张 1200 × 630 的图片,在 high detail 下约增加 750 个 token,在 low 下约增加 150 个。每次回复中的 usage 和 x-zurelay-input-tokens 标头会显示实际计费的 token 数,每个请求都记录在你的请求日志中,失败的请求不收费。

优势

GPT-6 Luna Decisions 的出色之处。 以及团队用它构建的应用。

01

代码可直接使用的答案

无需解析自由文本:每个答案都有明确的类型,按你要求的顺序返回,并附上每个值或等级的概率。

02

也支持识别图片

可在同一个请求中,将截图、产品图片或扫描表单与文本、JSON 一起提问。低 detail 模式只消耗一小部分 token。

03

量大更省

仅按输入计费,每 1M token $0.04,输出免费:对一段短文本做一次单问题检查,费用远低于千分之一美分。

04

多个问题,一次读取

单次请求最多可包含 64 个问题,输入只计费一次,由所有问题共用:针对一张 2,600 token 的工单提 4 个问题,总共约 3,200 token,而不是 4 倍的量。

使用场景

  • 工单与请求分流

    一次请求即可搞定:从多个选项中选出负责的团队,用判断条件标记退款请求或故障,并为紧急程度打分。

  • 类审核检查

    对文本和图片中的垃圾信息、滥用内容和违反政策的行为进行标记并给出概率,边界情况交由人工处理。

  • 智能体中的安全护栏与路由

    在运行昂贵的模型之前,先判断某个步骤是否可以执行,或为请求选择合适的工具、模型或工作流。

  • 对记录进行分类和打分

    将文档、商品信息或搜索结果按你自定义的类别分类,也可以按你自己的评分标准对相关性和情感倾向打分。

开始使用

三步调用 GPT-6 Luna Decisions。

无需排队等候,也无需新的 SDK。OpenAI 自家的 SDK 可直接使用:指向 Zurelay,并填入你的 Zurelay 密钥即可。

  1. 1

    创建密钥

    Sign up, add credit 和 create an API key. Set a monthly budget or a rate limit per key if you like.

  2. 2

    Zurelay:Point your SDK

    Zurelay. 上的 Set the OpenAI SDK's base URL to this, with /v1, as for every OpenAI model

    https://api.zurelay.com/v1
  3. 3

    Use gpt-6-luna-decisions

    Call client.decisions.create, or POST an input 和 a list of questions to /v1/decisions, and get a typed answer with probabilities for each, in order, usually in under a second.

    gpt-6-luna-decisions

兼容你正在使用的工具

常见问题

GPT-6 Luna Decisions API 常见问题。

还有其他问题?联系我们的团队,我们会通过邮件回复。

GPT-6 Luna Decisions API 的价格是多少?

Zurelay 的输入价格为每 1M 输入 token $0.04,而 OpenAI 的官方标价为 $0.10,可节省 60%。和 OpenAI 一样,输出不收费。计费时,你的输入只计一次,每个问题再加上模型自身约 110 到 160 个 token:对一段短文本做一个问题的检查,约 160 个 token;两个问题约 320 个;2,600 token 的输入配四个问题,约 3,200 个。失败的请求不收费。

OpenAI 的 Decisions API 是什么?

OpenAI 推出的 API,用于针对某个输入回答分类或打分类问题,一次请求即可提交多个问题。模型不会生成文本,而是为每个问题返回带类型的答案:判断类问题返回一个概率,选择类问题返回你提供的某个选项及各选项的概率,评分类问题返回你所定量表上的一个位置及相应的概率。负责作答的模型是 GPT-6 Luna Decisions。

如何通过 Zurelay 调用 GPT-6 Luna Decisions?

Create a Zurelay API key, set the OpenAI SDK's base URL to https://api.zurelay.com/v1 和 call client.decisions.create with model set to gpt-6-luna-decisions, an input 和 a list of questions. In Node.js that needs openai 7.30.0 or later. Or POST the same JSON to https://api.zurelay.com/v1/decisions with your key as a Bearer token. The docs at https://zurelay.com/docs/openai-decisions have examples in Python, Node.js and cURL.

OpenAI 的示例代码可以直接使用吗?

可以。在 /v1/decisions 上,模型 ID gpt-6-luna 与 gpt-6-luna-decisions 效果相同,所以按 OpenAI SDK 文档(文档中使用的是 gpt-6-luna)写的代码,只需更换 base URL 和密钥即可运行。返回结果中的 model 字段为 gpt-6-luna-decisions。在聊天端点上,gpt-6-luna 仍然是聊天模型 GPT-6 Luna。

predicate、choice 和 score 有什么区别?

predicate(判断)用于评估关于输入内容的某个陈述有多大可能为真,并返回 0 到 1 之间的概率,例如 1 表示这明确是一个退款请求。choice(选择)从你列出的 2 到 255 个值中选出一个,例如 billing、hardware 或 shipping,并返回该值、置信度以及每个值的概率。score(评分)把输入放到你列出的 2 到 10 个等级上(按从低到高排列),例如 very negative、negative 和 neutral,并以从 0 开始的索引返回期望等级,例如 0.18 表示基本落在第一个等级。一次请求可以同时混用这三种类型。

GPT-6 Luna Decisions 能读取图片吗?

支持。请将图片作为 user 消息中的 input_image 部分放入输入,可使用 base64 data URL 或公开的 https 链接,格式为 PNG、JPEG、WebP 或 GIF,detail 可设为 low、high、auto 或 original。一张 1200×630 的图片,在 high 或 auto 下约增加 750 个 token,在 low 下约增加 150 个。结构化数据以 input_json 部分传入。不支持读取 PDF、音频或视频。

什么是拒答?

任何一个问题都可能返回 {"type": "refusal"},而不是正常的答案,同一请求中的其他问题仍会照常得到回答。在我们的测试中,输入 "Refund requested 38 hours ago." 搭配判断条件 "Page on-call?" 时,返回的就是拒答。读取每个答案之前,请先检查它的 type;可以换一种更清晰的方式重新提问,或者把这个案例转交给人工处理。

请求最大可以多大?

最多 1,050,000 个 token,输入内容与所有问题合计计算:在我们的测试中,918K token 的输入可以正常处理。每个请求可包含 1 到 64 个问题,选择题的选项为 2 到 255 个互不重复的值,评分题为 2 到 10 个等级。Zurelay 会在请求到达模型之前先进行校验,格式有误的请求会被拒绝并返回清晰的错误信息,且不会产生任何费用。

GPT-6 Luna Decisions 的速度有多快?

在我们的测试中,响应时间为 0.3 到 1 秒;带图片时约为 1 秒;输入约 900K token 时约需 10 秒。响应会一次性完整返回,该 API 不支持流式输出。

哪些功能不支持?

系统消息、开发者消息和助手消息,函数及工具调用项,流式输出,以及问题指令中的图片:这些都会被拒绝,并返回 400 错误和具体原因。请将上下文放在用户消息或问题的指令中。prompt_cache_key 和 prompt_cache_options 可以传入,但会被忽略:缓存是自动的,所有输入 token 的价格都相同。

这是 OpenAI 的 GPT-6 Luna Decisions 吗?

是的。发送到 gpt-6-luna-decisions 的请求会由 OpenAI 的 GPT-6 Luna Decisions 处理,Zurelay 不会换用其他模型,也不会用让聊天模型扮演它的方式来替代。Zurelay 是独立服务,与 OpenAI 没有关联,也未获得 OpenAI 的认可。

Zurelay 上的更多模型

全部模型

告别原价.
今天就开始省钱.

几秒钟即可创建密钥,将你正在使用的 SDK 指向 Zurelay,从第一个 token 起,每次请求的费用最高可省 90%。