OpenAI
运行正常· 每隔几分钟检查一次

Text Embedding 3 Small API

OpenAI 的 text-embedding-3-small,跑在 OpenAI 自己提供它的同一个 API 上,每 1M tokens 只需 $0.01,而非 $0.02:用于搜索和 RAG 的向量与 OpenAI 自家的完全一致。

每 1M 输入 token 的价格50%优惠
输入
$0.01$0.02
输出
$0.00
模型 IDtext-embedding-3-small已更新
embed.py
from openai import OpenAI
client = OpenAI(
base_url="https://api.zurelay.com/v1",
api_key="YOUR_ZURELAY_KEY",
)
response = client.embeddings.create(
model="text-embedding-3-small",
input=[
"How can I change my password?",
"Invoices go out on the first of each month.",
],
)
for item in response.data:
print(item.index, len(item.embedding)) # 1536 each
print(response.usage.prompt_tokens, "tokens")

Base URL https://api.zurelay.com/v1. 支持任意 OpenAI SDK、LangChain、LlamaIndex 和 AI SDK。 Embeddings API 文档

维度
1,536,或更少
按输入
最多 8,192 tokens 个
按请求设置
2,048 个输入,300K 个 token
输出
向量,免费
发布日期
2024年1月25日
状态
运行正常

价格

文本 Embedding 3 Small API 价格。 仅需官方定价的一小部分。

从预付余额中按量扣费,无需订阅。$10 起充。请求失败不收费。

单价ZurelayOpenAI 原价
输入
每 1M tokens
$0.01$0.02
输出
每 1M tokens
$0.00—

按你发送的 token 计费,计数方式与 OpenAI 一致,每个请求没有最低消费。向量部分免费,维度更短或使用 base64 价格相同。请求失败不收费。

省钱计算器

拖动滑块设置每月用量。

每月输入 token 数50M
Zurelay
$0.50
OpenAI 原价
$1.00
每月节省$0.50

每年 $6.00

费用

文本 Embedding 3 Small API 成本,算给你看。

典型用量在 Zurelay 实时价格下的花费,与标价并列对比。

    概览

    文本 Embedding 3 Small 是什么?

    文本 Embedding 3 Small(text-embedding-3-small)是 OpenAI 的小型低成本 embedding 模型。它把文本转换成由 1,536 个数字组成的向量,语义相近的文本在向量空间里靠得很近,可用于语义搜索、检索(RAG)、聚类和推荐。Zurelay 在 OpenAI 的 embeddings 端点上提供该模型,模型 ID、请求和响应都相同,价格比 OpenAI 的标价低 50%,生成的向量与 OpenAI 自己的完全一致。

    把文本 POST 到 https://api.zurelay.com/v1/embeddings,模型 ID 用 text-embedding-3-small,就会按 OpenAI 的响应格式为每个输入返回一个向量。input 可以是字符串、最多 2,048 个字符串组成的数组、来自 OpenAI cl100k_base 分词器的 token ID 数组,或最多 2,048 个 token 数组组成的数组。每个输入最多 8,192 tokens,单个请求总计最多 300,000 tokens。

    向量默认是 1,536 维。dimensions 参数可将其缩短到 1 至 1,536 之间的任意长度:text-embedding-3 系列模型经过训练,缩短后的向量依然可用,返回时会重新归一化。向量越短,占用存储越少,检索也越快。将 encoding_format 设为 base64 时,每个向量以 base64 编码的小端 float32 数值返回,体积更小、下载更快;OpenAI 的 Python SDK 默认就请求这种格式,并会替你解码。

    OpenAI 的 SDK 可直接使用:把 base URL 设为 https://api.zurelay.com/v1,换上你的 Zurelay key,调用 client.embeddings.create 即可。LangChain 的 OpenAIEmbeddings、LlamaIndex 的 OpenAIEmbedding、Vercel AI SDK 的 OpenAI provider,以及允许为 embeddings 设置 OpenAI base URL 的应用同样适用。我们把每条调用路径都与 OpenAI 官方 API 做了比对:相同文本的向量一致,余弦相似度在 0.9999 以上,所以用 OpenAI API 建的索引,通过 Zurelay 查询依然能用。

    只按输入 token 计费,计费方式与 OpenAI 一致:在 Zurelay 上每 1M 为 $0.01,而 OpenAI 为 $0.02,没有单次请求的最低消费,向量免费。embeddings 请求始终由你指定的模型来回答:不同模型的向量无法比较,所以 Zurelay 绝不会改用别的模型作答;要换模型,就得把已存储的内容全部重新 embedding。

    优势

    文本 Embedding 3 Small 的出色之处。 以及团队用它构建的应用。

    01

    OpenAI 价格的一半

    每 1M tokens $0.01,OpenAI 为 $0.02,没有单次请求的最低消费,向量免费。

    02

    已有索引照常可用

    同样的文本,向量与 OpenAI 一致,所以用 OpenAI API 建好的索引无需重新 embedding 就能迁到 Zurelay。

    03

    按需缩短向量

    可以要求更少的维度,既省存储又搜得更快:返回的短向量会重新归一化,依然可用。

    04

    一次请求可处理数千条文本

    一次最多发送 2,048 条文本,向量按原顺序返回;按 token 计费,而不是按请求计费。

    使用场景

    • 语义搜索

      按语义而不是字面来检索文档、商品或工单,依据的是向量之间的余弦相似度。

    • 为聊天机器人做检索(RAG)

      取出与问题最接近的段落,用同一个 Zurelay key 交给聊天模型。

    • 去重与聚类

      按向量的接近程度,把近乎重复的记录、支持工单或评价归为一组。

    • 推荐

      根据用户看过的内容的向量,推荐相似的文章、商品或房源。

    开始使用

    三步调用 Text Embedding 3 Small。

    无需等候名单,也不用接入新的 SDK。只要你的代码已经在调用 OpenAI 的 embeddings,换成 Zurelay 就能直接用,已经存好的向量也一样。

    1. 1

      创建密钥

      Sign up, add credit 和 create an API key. Set a monthly budget or a rate limit per key if you like.

    2. 2

      Zurelay:Point your SDK

      Change the base URL. The model IDs, the request 和 the vectors stay the same as OpenAI's.

      https://api.zurelay.com/v1
    3. 3

      Use text-embedding-3-small

      Call client.embeddings.create, or POST text to /v1/embeddings, one string or up to 2,048 at once, 和 get a vector for each.

      text-embedding-3-small

    常见问题

    文本 Embedding 3 Small API 常见问题。

    还有其他问题?联系我们的团队,我们会通过邮件回复。

    text-embedding-3-small API 的价格是多少?

    Zurelay 每 1M 输入 tokens 收费 $0.01,OpenAI 的标价为 $0.02,你能省下 50%。向量免费:只为发送的 token 付费,计费方式与 OpenAI 一致,没有单次请求的最低消费。失败的请求不产生费用。

    它和 OpenAI 的 text-embedding-3-small 是同一个吗?

    是。发往 text-embedding-3-small 的请求运行在 OpenAI 的模型上,我们对照 OpenAI 官方 API 校验过每条线路:同样的文本,向量与 OpenAI 的余弦相似度为 0.9999 或更高。Zurelay 是独立服务,与 OpenAI 没有关联,也未获其认可。

    我已经生成的向量还能继续用吗?

    可以。用 OpenAI 的 text-embedding-3-small 生成的向量,可以用经 Zurelay embedding 的查询来检索,反过来也一样。只有换到别的模型(比如 text-embedding-3-large)才需要把所有内容重新 embedding:不同模型的向量无法比较。

    怎么用 OpenAI SDK 调用 text-embedding-3-small?

    Create a Zurelay API key, set the base URL to https://api.zurelay.com/v1 和 call client.embeddings.create with model set to text-embedding-3-small 和 your text as input. Or POST the same JSON to https://api.zurelay.com/v1/embeddings with your key as a Bearer token. The docs at https://zurelay.com/docs/embeddings have examples in Python, Node.js and cURL.

    支持 LangChain、LlamaIndex 和 AI SDK 吗?

    支持。给 LangChain 的 OpenAIEmbeddings 或 LlamaIndex 的 OpenAIEmbedding 传入模型 ID text-embedding-3-small、Zurelay 的 base URL 和你的 key,或者用它们创建 Vercel AI SDK 的 OpenAI provider。LangChain 的 Python 类默认发送 token ID,Zurelay 接受这种输入,所以默认设置就能用。

    text-embedding-3-small 有多少维?

    默认 1,536 维。把 dimensions 设为 1 到 1,536 之间的任意数值就能得到更短的向量:模型经过训练,缩短后的向量依然可用,返回时会重新归一化。用来互相比较的向量请使用相同长度。

    有哪些限制?

    单次请求最多 2,048 条输入,每条最多 8,192 tokens,整个请求最多 300,000 tokens。不接受空字符串。超出限制的请求会返回 400 错误并指明是哪项限制,且不产生费用。

    base64 编码是做什么用的?

    把 encoding_format 设为 base64,每个向量就会以小端 float32 数字的 base64 字符串返回,而不是 JSON 数字数组:体积更小,下载更快。OpenAI 的 Python SDK 默认就请求 base64 并自动为你解码。价格完全一样。

    智能路由会不会用其他模型来回答?

    不会,向量嵌入绝不会这样。不同模型的向量无法相互比较,换成其他模型的向量对你的索引来说是错的。如果 text-embedding-3-small 不可用,请求会返回 503 错误,重试即可。

    可以在 Playground 里试用吗?

    可以。在控制台的 Playground 里选 text-embedding-3-small,写几段文本并生成 embedding:每个向量的前几个数值、计费的 tokens、费用,以及任意两段之间的余弦相似度都会显示出来。Get code 会写出同样的请求,可选 Python、Node.js 或 cURL。

    Zurelay 上的更多模型

    全部模型

    告别原价.
    今天就开始省钱.

    几秒钟即可创建密钥,将你正在使用的 SDK 指向 Zurelay,从第一个 token 起,每次请求的费用最高可省 90%。