决策
决策 (Jev)
针对数据提出类型明确的问题,获取代码可直接使用的答案:肯定答案的概率、从一组选项中选出的一项,或有序量表上的位置,并附带经过校准的概率,通常不到一秒即可返回。服务通过 TypeSafe 自有的 API 提供,因此其 SDK 无需修改即可使用。
/v1/systemoneJev 是 TypeSafe 的决策模型,TypeSafe 将其称为 System One 模型:它像聊天模型一样理解自然语言,但不生成文本,而是回答你定义的问题。jev-latest、jev-1.14.0 和 typesafe/jev-1.14 也可用作模型 ID,jev-1.13 仍可用于针对它调优的提示词。
提问
# pip install typesafe-sdkfrom typesafe_sdk import Choice, Noul, Score, TypeSafeClientwith TypeSafeClient( base_url="https://api.zurelay.com", api_key="YOUR_ZURELAY_KEY", model="jev-1.14",) as client: response = client.system_one( state={"ticket": "I was charged twice for October, please refund one today."}, questions={ "refund": Noul(instructions="Is the customer asking for money back?"), "team": Choice( instructions="Which team should handle this?", criteria={"billing": "Charges and refunds", "technical": "Bugs and outages"}, ), "urgency": Score( instructions="How urgent is it?", criteria=["can wait", "this week", "today"], ), }, )print(response.nouls["refund"].noul) # 0.98print(response.choices["team"].choice) # billingprint(response.scores["urgency"].score) # 1.9使用 TypeSafe 的 SDK 时,将基础 URL 设为 https://api.zurelay.com,不要带 /v1:SDK 会自行添加 /v1/systemone。也可以使用 TYPESAFE_BASE_URL 和 TYPESAFE_API_KEY 环境变量。任何 HTTP 客户端都能以同样的方式调用:将 Zurelay 密钥作为 Bearer token 发送。
返回结果
{ "id": "req_8Kq2vXbN4tR7mWc1pLs9dYe3", "model": "jev-1.14", "answers": { "refund": { "type": "noul", "noul": 0.98 }, "team": { "type": "choice", "choice": "billing", "probabilities": { "billing": 1.0, "technical": 0.0 }, "confidence": 1.0 }, "urgency": { "type": "score", "score": 1.9, "legend": { "0": "can wait", "1": "this week", "2": "today" }, "probabilities": { "0": 0.0, "1": 0.1, "2": 0.9 }, "confidence": 0.81 } }, "usage": { "input_tokens": 396, "output_tokens": 61, "cost": 0.00001386 }}每个答案都以对应问题的名称作为键返回。usage 是请求的计费用量,cost 是费用,单位为美元。同一请求多次调用时,答案的数值可能相差一两点。
参数
modelstring必填jev-1.14、jev-latest(同一模型)或jev-1.13。statestring, object 或 array必填- 用于决策的内容:文本,或记录、聊天日志、应用当前状态等结构化数据。在问题中引用字段时,用反引号括起字段名,例如 `ticket`。
questionsobject必填- 你提出的问题,每个问题使用自定义名称作为键。答案以相同名称作为键返回,这些名称不会发送给模型。
typestring必填noul、choice或score。instructionsstring, object 或 array必填- 问题内容。使用对象时,可以在一个字段中放问题,在其他字段中放问题引用的数据。
criteriaobject 或 array- 对于
choice(必填):包含各个选项的对象,每项的值为描述或null,最多 255 项。对于score(必填):包含 2 到 10 个等级的数组,按从低到高排列。对于noul(可选):true和false,分别说明肯定和否定的含义。
问题类型
一次请求可以混用这三种类型,提出多个问题的费用也只比一个问题略高:状态只读取一次,所有问题都基于该状态并行作答。
限制
- 每次请求最多 64K tokens,包括状态和所有问题;状态加上最长的问题最多 32K。
- 仅支持文本:字符串、JSON 对象或数组。图片、PDF 或音频需先转换为文本。
- 不支持流式响应:答案一次性完整返回,通常不到一秒。
- 格式错误的请求(如缺少
instructions,或评分量表只有一个等级)会在到达模型前被拒绝,返回400,不收取费用。超过 64K tokens 的请求也会被拒绝且不收费,错误代码为context_length_exceeded。
如何获得更好的答案
决策计费
Jev 按其统计的输入 tokens 计费:包括你的状态和问题,以及每次请求额外计入的约 270 tokens。与 TypeSafe 一样,答案免费。一次约 300 tokens 的简短请求费用约为 $0.00001,一百万次约为 $10. 每次响应的 usage 和 x-zurelay-input-tokens 响应头会说明计费依据,所有请求都会记录在请求日志中,失败的请求不收费。
在控制台的试用平台中测试你自己的内容和问题:选择 Jev,粘贴内容,在旁边设置问题,点击“获取代码”按钮即可生成相同请求的 Python、Node.js 或 cURL 代码。
有疑问,或发现内容缺失?联系我们的支持团队,我们会通过邮件回复,通常只需一分钟。