OpenAI
Operacional· verificado a cada poucos minutos

Text Embedding 3 Small API

O text-embedding-3-small da OpenAI, na mesma API em que a OpenAI o serve, a $0.01 por 1M de tokens em vez de $0.02: vetores para pesquisa e RAG iguais aos da própria OpenAI.

Preço por 1M tokens de entrada50%de desconto
Entrada
$0.01$0.02
Saída
$0.00
ID do modelotext-embedding-3-smallAtualizado
embed.py
from openai import OpenAI
client = OpenAI(
base_url="https://api.zurelay.com/v1",
api_key="YOUR_ZURELAY_KEY",
)
response = client.embeddings.create(
model="text-embedding-3-small",
input=[
"How can I change my password?",
"Invoices go out on the first of each month.",
],
)
for item in response.data:
print(item.index, len(item.embedding)) # 1536 each
print(response.usage.prompt_tokens, "tokens")

URL base https://api.zurelay.com/v1. Funciona com qualquer SDK da OpenAI, LangChain, LlamaIndex e o AI SDK. Documentação da API de embeddings

Dimensões
1,536, ou menos
Por input
Até 8,192 tokens
Por pedido
2,048 inputs, 300K tokens
Saída
Vetores, grátis
Lançamento
25/01/2024
Estado
Operacional

Preços

Preços da API Text Embedding 3 Small. Uma fração do preço de tabela.

Pague apenas o que utilizar com saldo pré-pago, sem subscrição. Carregue a partir de $10. Os pedidos que falham nunca são cobrados.

PreçoZurelayPreço de tabela de OpenAI
Entrada
por 1M tokens
$0.01$0.02
Saída
por 1M tokens
$0.00—

Cobrado pelos tokens que envia, contados da forma como a OpenAI os conta, sem mínimo por pedido. Os vetores são gratuitos, e dimensões mais curtas ou base64 custam o mesmo. Os pedidos que falham não custam nada.

Calculadora de poupança

Ajuste os controlos deslizantes ao seu consumo mensal.

Tokens de entrada por mês50M
Zurelay
$0.50
Preço de tabela de OpenAI
$1.00
Poupa todos os meses$0.50

$6.00 por ano

Custo

Custo da API Text Embedding 3 Small, calculado.

Cargas de trabalho típicas aos preços em tempo real da Zurelay, lado a lado com o preço de tabela.

    Visão geral

    O que é Text Embedding 3 Small?

    O Text Embedding 3 Small (text-embedding-3-small) é o modelo de embeddings pequeno e económico da OpenAI. Converte texto num vetor de 1,536 números, posicionados de forma a que textos com significados semelhantes fiquem próximos uns dos outros, para pesquisa semântica, recuperação (RAG), clustering e recomendações. O Zurelay serve-o no endpoint de embeddings da OpenAI, com o mesmo ID de modelo, o mesmo pedido e a mesma resposta, a 50% abaixo do preço de tabela da OpenAI, e os vetores são iguais aos da própria OpenAI.

    Envie texto para POST https://api.zurelay.com/v1/embeddings com o ID de modelo text-embedding-3-small e recebe um vetor por cada input, no formato de resposta da OpenAI. O input pode ser uma string, um array de até 2,048 strings, um array de IDs de tokens do tokenizer cl100k_base da OpenAI, ou um array de até 2,048 arrays de tokens. Cada input pode ter até 8,192 tokens e um pedido até 300,000 tokens no total.

    Os vetores têm 1,536 dimensões por predefinição. O parâmetro dimensions encurta-os para qualquer comprimento entre 1 e 1,536: os modelos text-embedding-3 são treinados para que um vetor encurtado continue a funcionar, e volta renormalizado. Vetores mais curtos ocupam menos espaço e a pesquisa é mais rápida. Com encoding_format definido como base64, cada vetor é devolvido como números float32 little-endian codificados em base64, mais pequenos e mais rápidos de descarregar; o SDK Python da OpenAI pede isso por predefinição e descodifica-o por si.

    Os SDK da OpenAI funcionam tal como estão: defina o base URL como https://api.zurelay.com/v1, use a sua chave Zurelay e chame client.embeddings.create. O mesmo se aplica ao OpenAIEmbeddings do LangChain, ao OpenAIEmbedding do LlamaIndex, ao provider OpenAI do Vercel AI SDK e a aplicações que permitem definir um base URL da OpenAI para embeddings. Verificámos cada rota contra a própria API da OpenAI: para o mesmo texto, os vetores coincidem, com uma semelhança de cosseno de 0.9999 ou mais, pelo que um índice criado com a API da OpenAI continua a funcionar quando o consulta através do Zurelay.

    É cobrado apenas por tokens de entrada, contados da forma como a OpenAI os conta: $0.01 por 1M na Zurelay contra os $0.02 da OpenAI, sem mínimo por pedido, e os vetores são gratuitos. Um pedido de embeddings é sempre respondido pelo modelo que indicar: vetores de modelos diferentes não podem ser comparados, por isso a Zurelay nunca responde com outro, e mudar para outro modelo implica voltar a gerar os embeddings de tudo o que tem guardado.

    Pontos fortes

    Onde Text Embedding 3 Small se destaca. E o que as equipas criam com ele.

    01

    Metade do preço da OpenAI

    $0.01 por 1M tokens contra os $0.02 da OpenAI, sem mínimo por pedido, e os vetores são gratuitos.

    02

    O seu índice continua a funcionar

    Os vetores coincidem com os da OpenAI para o mesmo texto, por isso um índice que criou com a API da OpenAI passa para a Zurelay sem voltar a gerar embeddings.

    03

    Vetores mais curtos, a pedido

    Peça menos dimensões para poupar armazenamento e pesquisar mais depressa: o vetor encurtado volta renormalizado e continua a funcionar.

    04

    Milhares de textos por pedido

    Envie até 2,048 textos de uma vez e receba os respetivos vetores pela mesma ordem, cobrados por token e não por pedido.

    Casos de uso

    • Pesquisa semântica

      Encontre documentos, produtos ou pedidos de suporte pelo que significam, e não pelas palavras exatas, através da semelhança de cosseno dos respetivos vetores.

    • Recuperação para chatbots (RAG)

      Obtenha as passagens mais próximas de uma pergunta e entregue-as a um modelo de chat na mesma chave da Zurelay.

    • Deduplicação e agrupamento

      Agrupe registos, pedidos de suporte ou avaliações quase duplicados pela proximidade dos respetivos vetores.

    • Recomendações

      Sugira artigos, produtos ou anúncios semelhantes a partir dos vetores daquilo que alguém viu.

    Começar

    Faça chamadas a Text Embedding 3 Small em três passos.

    Sem lista de espera e sem SDK novo. Se o seu código já chama os embeddings da OpenAI, funciona com a Zurelay — e os vetores que já guardou também.

    1. 1

      Criar uma chave

      Sign up, add credit e create an API key. Set a monthly budget or a rate limit per key if you like.

    2. 2

      Point your SDK em Zurelay

      Change the base URL. The model IDs, the request e the vectors stay the same as OpenAI's.

      https://api.zurelay.com/v1
    3. 3

      Use text-embedding-3-small

      Call client.embeddings.create, or POST text to /v1/embeddings, one string or up to 2,048 at once, e get a vector for each.

      text-embedding-3-small

    Perguntas frequentes

    Perguntas sobre a API de Text Embedding 3 Small.

    Mais alguma dúvida? Fale com a nossa equipa e responderemos por email.

    Quanto custa a API text-embedding-3-small?

    A Zurelay cobra $0.01 por 1M de tokens de entrada, contra o preço de tabela da OpenAI de $0.02, pelo que poupa 50%. Os vetores são gratuitos: paga apenas os tokens que envia, contados da forma como a OpenAI os conta, sem mínimo por pedido. Os pedidos que falham não custam nada.

    É igual ao text-embedding-3-small da OpenAI?

    Sim. Os pedidos ao text-embedding-3-small são executados no modelo da OpenAI, e verificámos todas as rotas contra a própria API da OpenAI: para o mesmo texto, os vetores coincidem com os da OpenAI com uma semelhança de cosseno de 0.9999 ou mais. A Zurelay é um serviço independente e não tem qualquer afiliação nem aprovação da OpenAI.

    Os vetores que já tenho continuam a funcionar?

    Sim. Os vetores criados com o text-embedding-3-small da OpenAI podem ser pesquisados com consultas transformadas em embeddings através da Zurelay, e vice-versa. Só mudar para outro modelo, como o text-embedding-3-large, obriga a gerar novamente os embeddings de tudo: vetores de modelos diferentes não podem ser comparados.

    Como chamo o text-embedding-3-small com o SDK da OpenAI?

    Create a Zurelay API key, set the base URL to https://api.zurelay.com/v1 e call client.embeddings.create with model set to text-embedding-3-small e your text as input. Or POST the same JSON to https://api.zurelay.com/v1/embeddings with your key as a Bearer token. The docs at https://zurelay.com/docs/embeddings have examples in Python, Node.js and cURL.

    Funciona com LangChain, LlamaIndex e o AI SDK?

    Sim. Passe ao OpenAIEmbeddings do LangChain ou ao OpenAIEmbedding do LlamaIndex o ID de modelo text-embedding-3-small, o URL base da Zurelay e a sua chave, ou crie com eles o provider OpenAI do Vercel AI SDK. A classe Python do LangChain envia token IDs por predefinição, que a Zurelay aceita, por isso as definições predefinidas funcionam.

    Quantas dimensões tem o text-embedding-3-small?

    1,536 por predefinição. Defina dimensions com qualquer número entre 1 e 1,536 para obter um vetor mais curto: o modelo foi treinado para que um vetor encurtado continue a funcionar, e este é devolvido renormalizado. Use o mesmo comprimento em todos os vetores que comparar.

    Quais são os limites?

    Até 2,048 entradas por pedido, até 8,192 tokens em cada uma e até 300,000 tokens no pedido completo. As strings vazias não são aceites. Um pedido acima de um limite recebe um erro 400 que indica o limite e não tem qualquer custo.

    Para que serve a codificação base64?

    Defina o encoding_format como base64 e cada vetor volta como uma string base64 de números float32 little-endian, em vez de um array JSON de números: mais pequeno e mais rápido de descarregar. O SDK Python da OpenAI pede base64 por predefinição e descodifica-o por si. Custa o mesmo.

    O encaminhamento inteligente pode responder com outro modelo?

    Não, nunca para embeddings. Vetores de modelos diferentes não podem ser comparados, por isso os de outro modelo estariam errados para o seu índice. Se o text-embedding-3-small estiver em baixo, o pedido falha com um erro 503 que pode repetir.

    Posso experimentá-lo no Playground?

    Sim. No Playground do dashboard, escolha text-embedding-3-small, escreva alguns textos e gere os embeddings: pode ver os primeiros números de cada vetor, os tokens cobrados, o custo e a semelhança de cosseno entre cada par. Obter código gera o mesmo pedido para Python, Node.js ou cURL.

    Mais modelos na Zurelay

    Todos os modelos

    Deixe de pagar o preço de tabela.
    Comece a poupar hoje.

    Crie uma chave em segundos, configure o SDK que já usa para aceder à Zurelay e cada pedido custa até 90% menos desde o primeiro token.