OpenAI
Operacional· verificado a cada poucos minutos

Text Embedding 3 Large API

O text-embedding-3-large da OpenAI na mesma API em que a OpenAI o serve, por $0.065 por 1M tokens em vez de $0.13: o modelo de embedding maior dela, com vetores que batem com os da própria OpenAI.

Preço por 1M tokens de entrada50%de desconto
Entrada
$0.065$0.13
Saída
$0.00
ID do modelotext-embedding-3-largeAtualizado
embed.py
from openai import OpenAI
client = OpenAI(
base_url="https://api.zurelay.com/v1",
api_key="YOUR_ZURELAY_KEY",
)
response = client.embeddings.create(
model="text-embedding-3-large",
input=[
"How can I change my password?",
"Invoices go out on the first of each month.",
],
)
for item in response.data:
print(item.index, len(item.embedding)) # 3072 each
print(response.usage.prompt_tokens, "tokens")

URL base https://api.zurelay.com/v1. Funciona com qualquer OpenAI SDK, LangChain, LlamaIndex e o AI SDK. Docs da API de embeddings

Dimensões
3,072, ou menos
Por entrada
Até 8,192 tokens
Por requisição
2,048 entradas, 300K tokens
Saída
Vetores, grátis
Lançamento
25 de jan. de 2024
Status
Operacional

Preços

Preços da API Text Embedding 3 Large. Uma fração do preço de tabela.

Pague conforme o uso com saldo pré-pago, sem assinatura. Adicione saldo a partir de $10. Requisições que falham nunca são cobradas.

PreçoZurelayTabela de OpenAI
Entrada
por 1M tokens
$0.065$0.13
Saída
por 1M tokens
$0.00—

Cobrado pelos tokens que você envia, contados do jeito que a OpenAI conta, sem mínimo por requisição. Os vetores são grátis, e dimensões menores ou base64 custam o mesmo. Requisições que falham não custam nada.

Calculadora de economia

Ajuste os controles para o seu uso mensal.

Tokens de entrada por mês50M
Zurelay
$3.25
Preço de tabela de OpenAI
$6.50
Você economiza por mês$3.25

$39.00 por ano

Custo

Custo de API do Text Embedding 3 Large, já calculado.

Cargas de trabalho típicas com os preços ao vivo da Zurelay, ao lado do preço de tabela.

    Visão geral

    O que é Text Embedding 3 Large?

    O Text Embedding 3 Large (text-embedding-3-large) é o modelo de embedding maior da OpenAI, para quando a qualidade da recuperação é o que mais importa. Ele transforma texto em um vetor de 3,072 números, posicionados de modo que textos com significados parecidos fiquem próximos, para busca semântica, recuperação (RAG), clustering e recomendações. O Zurelay o serve no endpoint de embeddings da OpenAI, com o mesmo ID de modelo, a mesma requisição e a mesma resposta, por 50% abaixo do preço de tabela da OpenAI, e os vetores batem com os da própria OpenAI.

    Envie o texto para POST https://api.zurelay.com/v1/embeddings com o ID de modelo text-embedding-3-large e receba um vetor por entrada, no formato de resposta da OpenAI. A entrada pode ser uma string, um array de até 2,048 strings, um array de token IDs do tokenizador cl100k_base da OpenAI ou um array de até 2,048 arrays de tokens. Cada entrada pode ter até 8,192 tokens, e uma requisição, até 300,000 tokens no total.

    Os vetores têm 3,072 dimensões por padrão. O parâmetro dimensions os encurta para qualquer tamanho de 1 a 3,072: os modelos text-embedding-3 são treinados para que um vetor encurtado continue funcionando, e ele volta renormalizado. Com 1,024 dimensões, um vetor ocupa um terço do armazenamento do completo e a busca fica mais rápida. Com encoding_format definido como base64, cada vetor volta como números float32 little-endian codificados em base64, menor e mais rápido de baixar; o SDK Python da OpenAI pede isso por padrão e decodifica para você.

    Os SDKs da OpenAI funcionam como estão: defina a base URL como https://api.zurelay.com/v1, use sua chave da Zurelay e chame client.embeddings.create. O mesmo vale para OpenAIEmbeddings do LangChain, OpenAIEmbedding do LlamaIndex, o provider OpenAI do Vercel AI SDK e apps que permitem definir uma base URL da OpenAI para embeddings. Conferimos cada rota contra a própria API da OpenAI: para o mesmo texto os vetores batem, com similaridade de cosseno de 0.9999 ou mais, então um índice criado com a API da OpenAI continua funcionando quando você consulta pela Zurelay.

    A cobrança é só pelos tokens de entrada, contados do jeito que a OpenAI conta: $0.065 por 1M na Zurelay contra $0.13 da OpenAI, sem mínimo por requisição, e os vetores saem de graça. Uma requisição de embeddings é sempre atendida pelo modelo que você indicar: vetores de modelos diferentes não podem ser comparados, então a Zurelay nunca responde com outro, e mudar de modelo significa gerar os embeddings de novo de tudo o que você já armazenou.

    Pontos fortes

    Onde Text Embedding 3 Large se destaca. E o que as equipes criam com ele.

    01

    O modelo de embedding maior da OpenAI

    Para busca e RAG em que encontrar a passagem certa importa mais do que armazenamento ou preço por token.

    02

    Metade do preço da OpenAI

    $0.065 por 1M tokens contra $0.13 da OpenAI, sem mínimo por requisição, e os vetores saem de graça.

    03

    Seu índice continua funcionando

    Os vetores batem com os da OpenAI para o mesmo texto, então um índice criado com a API da OpenAI não precisa gerar os embeddings de novo para migrar para a Zurelay.

    04

    Dimensione para o seu índice

    Peça de 1 a 3,072 dimensões: vetores mais curtos voltam renormalizados, ocupam menos armazenamento e a busca fica mais rápida.

    Casos de uso

    • Busca semântica

      Encontre documentos, produtos ou tickets pelo significado, e não pelas palavras exatas, usando a similaridade de cosseno dos vetores.

    • Busca para chatbots (RAG)

      Busque os trechos mais próximos de uma pergunta e envie para um modelo de chat com a mesma chave da Zurelay.

    • Deduplicação e agrupamento

      Agrupe registros, tickets de suporte ou avaliações quase duplicados pela proximidade dos vetores.

    • Recomendações

      Sugira artigos, produtos ou anúncios parecidos a partir dos vetores do que a pessoa visualizou.

    Começar

    Chame Text Embedding 3 Large em três passos.

    Sem lista de espera e sem SDK novo. Se seu código já chama os embeddings da OpenAI, ele funciona com a Zurelay, e os vetores que você já armazenou também.

    1. 1

      Criar uma chave

      Sign up, add credit e create an API key. Set a monthly budget or a rate limit per key if you like.

    2. 2

      Point your SDK em Zurelay

      Change the base URL. The model IDs, the request e the vectors stay the same as OpenAI's.

      https://api.zurelay.com/v1
    3. 3

      Use text-embedding-3-large

      Call client.embeddings.create, or POST text to /v1/embeddings, one string or up to 2,048 at once, e get a vector for each.

      text-embedding-3-large

    Perguntas frequentes

    Dúvidas sobre a API de Text Embedding 3 Large.

    Mais alguma dúvida? Fale com nossa equipe e responderemos por e-mail.

    Quanto custa a API do text-embedding-3-large?

    A Zurelay cobra $0.065 por 1M de tokens de entrada, contra o preço de tabela da OpenAI de $0.13, então você economiza 50%. Os vetores saem de graça: você paga só pelos tokens que envia, contados do jeito que a OpenAI conta, sem mínimo por requisição. Requisições que falham não custam nada.

    É o mesmo que o text-embedding-3-large da OpenAI?

    Sim. As requisições ao text-embedding-3-large rodam no modelo da OpenAI, e verificamos cada rota contra a própria API da OpenAI: para o mesmo texto, os vetores batem com os da OpenAI com similaridade de cosseno de 0.9999 ou mais. O Zurelay é um serviço independente e não tem vínculo nem endosso da OpenAI.

    Os vetores que eu já tenho vão continuar funcionando?

    Sim. Vetores que você gerou com o text-embedding-3-large da OpenAI podem ser consultados com queries embedadas pelo Zurelay, e vice-versa. Só trocar para outro modelo, como o text-embedding-3-small, exige gerar os embeddings de tudo de novo: vetores de modelos diferentes não podem ser comparados.

    Devo usar text-embedding-3-large ou text-embedding-3-small?

    Comece com o text-embedding-3-small: ele custa bem menos por token, e seus vetores de 1,536 dimensões atendem a maioria das buscas e aplicações de RAG. Escolha o text-embedding-3-large quando encontrar a passagem certa importar mais do que armazenamento e preço. Seja qual for a sua escolha, use-o para tudo o que você compara, já que os vetores dos dois não podem ser misturados.

    Como chamar o text-embedding-3-large com o SDK da OpenAI?

    Create a Zurelay API key, set the base URL to https://api.zurelay.com/v1 e call client.embeddings.create with model set to text-embedding-3-large e your text as input. Or POST the same JSON to https://api.zurelay.com/v1/embeddings with your key as a Bearer token. The docs at https://zurelay.com/docs/embeddings have examples in Python, Node.js and cURL.

    Quantas dimensões tem o text-embedding-3-large?

    3,072 por padrão. Defina dimensions com qualquer número de 1 a 3,072 para um vetor mais curto: o modelo é treinado para que um vetor encurtado continue funcionando, e ele volta renormalizado. 1,024 dimensões ocupam um terço do armazenamento. Use o mesmo comprimento para todos os vetores que você compara.

    Funciona com LangChain, LlamaIndex e o AI SDK?

    Sim. Passe ao OpenAIEmbeddings do LangChain ou ao OpenAIEmbedding do LlamaIndex o ID de modelo text-embedding-3-large, a base URL do Zurelay e sua chave, ou crie com eles o provider OpenAI do Vercel AI SDK. A classe Python do LangChain envia token IDs por padrão, e o Zurelay aceita, então as configurações padrão funcionam.

    Quais são os limites?

    Até 2,048 inputs por requisição, até 8,192 tokens em cada, e até 300,000 tokens na requisição inteira. Strings vazias não são aceitas. Uma requisição acima de um limite recebe um erro 400 que indica o limite, e não custa nada.

    O roteamento inteligente pode responder com outro modelo?

    Não, nunca para embeddings. Vetores de modelos diferentes não podem ser comparados, então o de outro modelo estaria errado para o seu índice. Se o text-embedding-3-large estiver fora do ar, a requisição falha com um erro 503, que você pode tentar de novo.

    Dá para testar no Playground?

    Sim. No Playground do dashboard, escolha text-embedding-3-large, escreva alguns textos e gere os embeddings: você vê os primeiros números de cada vetor, os tokens cobrados, o custo e a similaridade de cosseno de cada par. Gerar código monta a mesma requisição para Python, Node.js ou cURL.

    Mais modelos na Zurelay

    Todos os modelos

    Pare de pagar o preço de tabela.
    Comece a economizar hoje.

    Crie uma chave em segundos, direcione o SDK que você já usa para a Zurelay e pague até 90% menos em cada requisição desde o primeiro token.