OpenAI
运行正常· 每隔几分钟检查一次

Text Embedding 3 Large API

在 OpenAI 提供它的同一个 API 上使用 OpenAI 的 text-embedding-3-large,每 1M tokens 只要 $0.065,而非 $0.13:OpenAI 更大的嵌入模型,向量与 OpenAI 自家的一致。

每 1M 输入 token 的价格50%优惠
输入
$0.065$0.13
输出
$0.00
模型 IDtext-embedding-3-large已更新
embed.py
from openai import OpenAI
client = OpenAI(
base_url="https://api.zurelay.com/v1",
api_key="YOUR_ZURELAY_KEY",
)
response = client.embeddings.create(
model="text-embedding-3-large",
input=[
"How can I change my password?",
"Invoices go out on the first of each month.",
],
)
for item in response.data:
print(item.index, len(item.embedding)) # 3072 each
print(response.usage.prompt_tokens, "tokens")

Base URL https://api.zurelay.com/v1. 支持任意 OpenAI SDK、LangChain、LlamaIndex 和 AI SDK。 Embeddings API 文档

维度
3,072,或更少
按输入
最多 8,192 tokens 个
按请求设置
2,048 个输入,300K 个 token
输出
向量,免费
发布日期
2024年1月25日
状态
运行正常

价格

文本 Embedding 3 Large API 价格。 仅需官方定价的一小部分。

从预付余额中按量扣费,无需订阅。$10 起充。请求失败不收费。

单价ZurelayOpenAI 原价
输入
每 1M tokens
$0.065$0.13
输出
每 1M tokens
$0.00—

按你发送的 token 计费,计数方式与 OpenAI 一致,每个请求没有最低消费。向量部分免费,维度更短或使用 base64 价格相同。请求失败不收费。

省钱计算器

拖动滑块设置每月用量。

每月输入 token 数50M
Zurelay
$3.25
OpenAI 原价
$6.50
每月节省$3.25

每年 $39.00

费用

文本 Embedding 3 Large API 成本,算给你看。

典型用量在 Zurelay 实时价格下的花费,与标价并列对比。

    概览

    文本 Embedding 3 Large 是什么?

    文本 Embedding 3 Large(text-embedding-3-large)是 OpenAI 更大的嵌入模型,适合检索质量最重要的场景。它把文本变成由 3,072 个数字组成的向量,含义相近的文本在向量空间中彼此靠近,可用于语义搜索、检索(RAG)、聚类和推荐。Zurelay 在 OpenAI 的 embeddings 端点上提供该模型,模型 ID、请求和响应均一致,价格比 OpenAI 的标价低 50%,向量与 OpenAI 自家的一致。

    用模型 ID text-embedding-3-large 把文本发到 POST https://api.zurelay.com/v1/embeddings,每个输入会返回一个向量,响应结构与 OpenAI 一致。input 可以是单个字符串、最多 2,048 个字符串的数组、来自 OpenAI cl100k_base 分词器的 token ID 数组,或最多 2,048 个 token 数组组成的数组。每个输入最长 8,192 tokens,单次请求总计最长 300,000 tokens。

    向量默认 3,072 维。dimensions 参数可以把它缩短到 1 到 3,072 之间的任意长度:text-embedding-3 系列模型经过训练,缩短后的向量依然可用,返回时会重新归一化。1,024 维时,一个向量只占完整向量三分之一的存储空间,检索也更快。把 encoding_format 设为 base64,每个向量会以 base64 编码的小端 float32 数字返回,体积更小、下载更快;OpenAI 的 Python SDK 默认就这么请求,并自动为你解码。

    OpenAI 的 SDK 可直接使用:把 base URL 设为 https://api.zurelay.com/v1,换上你的 Zurelay key,调用 client.embeddings.create 即可。LangChain 的 OpenAIEmbeddings、LlamaIndex 的 OpenAIEmbedding、Vercel AI SDK 的 OpenAI provider,以及允许为 embeddings 设置 OpenAI base URL 的应用同样适用。我们把每条调用路径都与 OpenAI 官方 API 做了比对:相同文本的向量一致,余弦相似度在 0.9999 以上,所以用 OpenAI API 建的索引,通过 Zurelay 查询依然能用。

    只按输入 token 计费,计费方式与 OpenAI 一致:在 Zurelay 上每 1M 为 $0.065,而 OpenAI 为 $0.13,没有单次请求的最低消费,向量免费。embeddings 请求始终由你指定的模型来回答:不同模型的向量无法比较,所以 Zurelay 绝不会改用别的模型作答;要换模型,就得把已存储的内容全部重新 embedding。

    优势

    文本 Embedding 3 Large 的出色之处。 以及团队用它构建的应用。

    01

    OpenAI 更大的嵌入模型

    适用于搜索和 RAG,当找到正确的段落比存储成本或每 token 价格更重要时。

    02

    OpenAI 价格的一半

    每 1M tokens $0.065,OpenAI 为 $0.13,没有单次请求的最低消费,向量免费。

    03

    已有索引照常可用

    同样的文本,向量与 OpenAI 一致,所以用 OpenAI API 建好的索引无需重新 embedding 就能迁到 Zurelay。

    04

    按你的索引调整维度

    可以指定 1 到 3,072 之间的任意维度:更短的向量返回时会重新归一化,占用更少存储,检索更快。

    使用场景

    • 语义搜索

      按语义而不是字面来检索文档、商品或工单,依据的是向量之间的余弦相似度。

    • 为聊天机器人做检索(RAG)

      取出与问题最接近的段落,用同一个 Zurelay key 交给聊天模型。

    • 去重与聚类

      按向量的接近程度,把近乎重复的记录、支持工单或评价归为一组。

    • 推荐

      根据用户看过的内容的向量,推荐相似的文章、商品或房源。

    开始使用

    三步调用 Text Embedding 3 Large。

    无需等候名单,也不用接入新的 SDK。只要你的代码已经在调用 OpenAI 的 embeddings,换成 Zurelay 就能直接用,已经存好的向量也一样。

    1. 1

      创建密钥

      Sign up, add credit 和 create an API key. Set a monthly budget or a rate limit per key if you like.

    2. 2

      Zurelay:Point your SDK

      Change the base URL. The model IDs, the request 和 the vectors stay the same as OpenAI's.

      https://api.zurelay.com/v1
    3. 3

      Use text-embedding-3-large

      Call client.embeddings.create, or POST text to /v1/embeddings, one string or up to 2,048 at once, 和 get a vector for each.

      text-embedding-3-large

    常见问题

    文本 Embedding 3 Large API 常见问题。

    还有其他问题?联系我们的团队,我们会通过邮件回复。

    text-embedding-3-large API 多少钱?

    Zurelay 每 1M 输入 tokens 收费 $0.065,OpenAI 的标价为 $0.13,你能省下 50%。向量免费:只为发送的 token 付费,计费方式与 OpenAI 一致,没有单次请求的最低消费。失败的请求不产生费用。

    和 OpenAI 的 text-embedding-3-large 是同一个吗?

    是。发往 text-embedding-3-large 的请求运行在 OpenAI 的模型上,我们还对照 OpenAI 自家 API 校验了每条路由:对同样的文本,向量与 OpenAI 的余弦相似度在 0.9999 以上。Zurelay 是独立服务,与 OpenAI 没有隶属关系,也未获其认可。

    我已经生成的向量还能继续用吗?

    是。你用 OpenAI 的 text-embedding-3-large 生成的向量,可以用经 Zurelay 嵌入的查询来检索,反过来也一样。只有换到其他模型(比如 text-embedding-3-small)时才需要把全部内容重新嵌入:不同模型的向量无法相互比较。

    该用 text-embedding-3-large 还是 text-embedding-3-small?

    先从 text-embedding-3-small 开始:它的每 token 成本低得多,1,536 维向量适合大多数搜索和 RAG 场景。当找到正确的段落比存储和价格更重要时,再选 text-embedding-3-large。无论选哪个,参与比较的内容都要用同一个模型,因为两者的向量不能混用。

    怎么用 OpenAI SDK 调用 text-embedding-3-large?

    Create a Zurelay API key, set the base URL to https://api.zurelay.com/v1 和 call client.embeddings.create with model set to text-embedding-3-large 和 your text as input. Or POST the same JSON to https://api.zurelay.com/v1/embeddings with your key as a Bearer token. The docs at https://zurelay.com/docs/embeddings have examples in Python, Node.js and cURL.

    text-embedding-3-large 有多少维?

    默认 3,072 维。把 dimensions 设为 1 到 3,072 之间的任意数值即可得到更短的向量:模型经过训练,缩短后的向量依然可用,返回时会重新归一化。1,024 维只占三分之一的存储空间。参与比较的每个向量都要用同样的长度。

    支持 LangChain、LlamaIndex 和 AI SDK 吗?

    可以。给 LangChain 的 OpenAIEmbeddings 或 LlamaIndex 的 OpenAIEmbedding 传入模型 ID text-embedding-3-large、Zurelay 的 base URL 和你的 key 即可,或者用它们创建 Vercel AI SDK 的 OpenAI provider。LangChain 的 Python 类默认发送 token ID,Zurelay 接受这种格式,所以默认设置就能用。

    有哪些限制?

    单次请求最多 2,048 条输入,每条最多 8,192 tokens,整个请求最多 300,000 tokens。不接受空字符串。超出限制的请求会返回 400 错误并指明是哪项限制,且不产生费用。

    智能路由会不会用其他模型来回答?

    不会,向量嵌入绝不会这样。不同模型的向量无法相互比较,换成其他模型的向量对你的索引来说是错的。如果 text-embedding-3-large 不可用,请求会返回 503 错误,重试即可。

    可以在 Playground 里试用吗?

    可以。在控制台的 Playground 里选 text-embedding-3-large,写几段文本并生成 embedding:每个向量的前几个数值、计费的 tokens、费用,以及任意两段之间的余弦相似度都会显示出来。Get code 会写出同样的请求,可选 Python、Node.js 或 cURL。

    Zurelay 上的更多模型

    全部模型

    告别原价.
    今天就开始省钱.

    几秒钟即可创建密钥,将你正在使用的 SDK 指向 Zurelay,从第一个 token 起,每次请求的费用最高可省 90%。