OpenAI 更大的嵌入模型
适用于搜索和 RAG,当找到正确的段落比存储成本或每 token 价格更重要时。
在 OpenAI 提供它的同一个 API 上使用 OpenAI 的 text-embedding-3-large,每 1M tokens 只要 $0.065,而非 $0.13:OpenAI 更大的嵌入模型,向量与 OpenAI 自家的一致。
text-embedding-3-large已更新 from openai import OpenAIclient = OpenAI( base_url="https://api.zurelay.com/v1", api_key="YOUR_ZURELAY_KEY",)response = client.embeddings.create( model="text-embedding-3-large", input=[ "How can I change my password?", "Invoices go out on the first of each month.", ],)for item in response.data: print(item.index, len(item.embedding)) # 3072 eachprint(response.usage.prompt_tokens, "tokens")Base URL https://api.zurelay.com/v1. 支持任意 OpenAI SDK、LangChain、LlamaIndex 和 AI SDK。 Embeddings API 文档
价格
从预付余额中按量扣费,无需订阅。$10 起充。请求失败不收费。
| 单价 | Zurelay | OpenAI 原价 | 节省金额 |
|---|---|---|---|
输入 每 1M tokens | $0.065 | 50%优惠 | |
输出 每 1M tokens | $0.00 | — | — |
按你发送的 token 计费,计数方式与 OpenAI 一致,每个请求没有最低消费。向量部分免费,维度更短或使用 base64 价格相同。请求失败不收费。
拖动滑块设置每月用量。
每年 $39.00
费用
典型用量在 Zurelay 实时价格下的花费,与标价并列对比。
概览
文本 Embedding 3 Large(text-embedding-3-large)是 OpenAI 更大的嵌入模型,适合检索质量最重要的场景。它把文本变成由 3,072 个数字组成的向量,含义相近的文本在向量空间中彼此靠近,可用于语义搜索、检索(RAG)、聚类和推荐。Zurelay 在 OpenAI 的 embeddings 端点上提供该模型,模型 ID、请求和响应均一致,价格比 OpenAI 的标价低 50%,向量与 OpenAI 自家的一致。
用模型 ID text-embedding-3-large 把文本发到 POST https://api.zurelay.com/v1/embeddings,每个输入会返回一个向量,响应结构与 OpenAI 一致。input 可以是单个字符串、最多 2,048 个字符串的数组、来自 OpenAI cl100k_base 分词器的 token ID 数组,或最多 2,048 个 token 数组组成的数组。每个输入最长 8,192 tokens,单次请求总计最长 300,000 tokens。
向量默认 3,072 维。dimensions 参数可以把它缩短到 1 到 3,072 之间的任意长度:text-embedding-3 系列模型经过训练,缩短后的向量依然可用,返回时会重新归一化。1,024 维时,一个向量只占完整向量三分之一的存储空间,检索也更快。把 encoding_format 设为 base64,每个向量会以 base64 编码的小端 float32 数字返回,体积更小、下载更快;OpenAI 的 Python SDK 默认就这么请求,并自动为你解码。
OpenAI 的 SDK 可直接使用:把 base URL 设为 https://api.zurelay.com/v1,换上你的 Zurelay key,调用 client.embeddings.create 即可。LangChain 的 OpenAIEmbeddings、LlamaIndex 的 OpenAIEmbedding、Vercel AI SDK 的 OpenAI provider,以及允许为 embeddings 设置 OpenAI base URL 的应用同样适用。我们把每条调用路径都与 OpenAI 官方 API 做了比对:相同文本的向量一致,余弦相似度在 0.9999 以上,所以用 OpenAI API 建的索引,通过 Zurelay 查询依然能用。
只按输入 token 计费,计费方式与 OpenAI 一致:在 Zurelay 上每 1M 为 $0.065,而 OpenAI 为 $0.13,没有单次请求的最低消费,向量免费。embeddings 请求始终由你指定的模型来回答:不同模型的向量无法比较,所以 Zurelay 绝不会改用别的模型作答;要换模型,就得把已存储的内容全部重新 embedding。
优势
适用于搜索和 RAG,当找到正确的段落比存储成本或每 token 价格更重要时。
每 1M tokens $0.065,OpenAI 为 $0.13,没有单次请求的最低消费,向量免费。
同样的文本,向量与 OpenAI 一致,所以用 OpenAI API 建好的索引无需重新 embedding 就能迁到 Zurelay。
可以指定 1 到 3,072 之间的任意维度:更短的向量返回时会重新归一化,占用更少存储,检索更快。
使用场景
按语义而不是字面来检索文档、商品或工单,依据的是向量之间的余弦相似度。
取出与问题最接近的段落,用同一个 Zurelay key 交给聊天模型。
按向量的接近程度,把近乎重复的记录、支持工单或评价归为一组。
根据用户看过的内容的向量,推荐相似的文章、商品或房源。
开始使用
无需等候名单,也不用接入新的 SDK。只要你的代码已经在调用 OpenAI 的 embeddings,换成 Zurelay 就能直接用,已经存好的向量也一样。
Sign up, add credit 和 create an API key. Set a monthly budget or a rate limit per key if you like.
Change the base URL. The model IDs, the request 和 the vectors stay the same as OpenAI's.
https://api.zurelay.com/v1Call client.embeddings.create, or POST text to /v1/embeddings, one string or up to 2,048 at once, 和 get a vector for each.
text-embedding-3-large对比
$0.01 per 1M 输入 token
大多数搜索和 RAG 场景可以选 Text Embedding 3 Small——OpenAI 的小型嵌入模型,每 token 价格低得多,1,536 维。
Text Embedding 3 Small API每 1M token $0.025 / $0.125
选择 GPT-6 Luna——OpenAI 快速、低价的聊天模型,根据检索到的内容写出回答。
GPT-6 Luna API$0.04 per 1M 输入 token
选择 GPT-6 Luna Decisions 来对文本做分类或用概率打分,而不是按语义比较文本。
GPT-6 Luna Decisions APIZurelay 每 1M 输入 tokens 收费 $0.065,OpenAI 的标价为 $0.13,你能省下 50%。向量免费:只为发送的 token 付费,计费方式与 OpenAI 一致,没有单次请求的最低消费。失败的请求不产生费用。
是。发往 text-embedding-3-large 的请求运行在 OpenAI 的模型上,我们还对照 OpenAI 自家 API 校验了每条路由:对同样的文本,向量与 OpenAI 的余弦相似度在 0.9999 以上。Zurelay 是独立服务,与 OpenAI 没有隶属关系,也未获其认可。
是。你用 OpenAI 的 text-embedding-3-large 生成的向量,可以用经 Zurelay 嵌入的查询来检索,反过来也一样。只有换到其他模型(比如 text-embedding-3-small)时才需要把全部内容重新嵌入:不同模型的向量无法相互比较。
先从 text-embedding-3-small 开始:它的每 token 成本低得多,1,536 维向量适合大多数搜索和 RAG 场景。当找到正确的段落比存储和价格更重要时,再选 text-embedding-3-large。无论选哪个,参与比较的内容都要用同一个模型,因为两者的向量不能混用。
Create a Zurelay API key, set the base URL to https://api.zurelay.com/v1 和 call client.embeddings.create with model set to text-embedding-3-large 和 your text as input. Or POST the same JSON to https://api.zurelay.com/v1/embeddings with your key as a Bearer token. The docs at https://zurelay.com/docs/embeddings have examples in Python, Node.js and cURL.
默认 3,072 维。把 dimensions 设为 1 到 3,072 之间的任意数值即可得到更短的向量:模型经过训练,缩短后的向量依然可用,返回时会重新归一化。1,024 维只占三分之一的存储空间。参与比较的每个向量都要用同样的长度。
可以。给 LangChain 的 OpenAIEmbeddings 或 LlamaIndex 的 OpenAIEmbedding 传入模型 ID text-embedding-3-large、Zurelay 的 base URL 和你的 key 即可,或者用它们创建 Vercel AI SDK 的 OpenAI provider。LangChain 的 Python 类默认发送 token ID,Zurelay 接受这种格式,所以默认设置就能用。
单次请求最多 2,048 条输入,每条最多 8,192 tokens,整个请求最多 300,000 tokens。不接受空字符串。超出限制的请求会返回 400 错误并指明是哪项限制,且不产生费用。
不会,向量嵌入绝不会这样。不同模型的向量无法相互比较,换成其他模型的向量对你的索引来说是错的。如果 text-embedding-3-large 不可用,请求会返回 503 错误,重试即可。
可以。在控制台的 Playground 里选 text-embedding-3-large,写几段文本并生成 embedding:每个向量的前几个数值、计费的 tokens、费用,以及任意两段之间的余弦相似度都会显示出来。Get code 会写出同样的请求,可选 Python、Node.js 或 cURL。