OpenAI
Operacional· verificado a cada poucos minutos

Text Embedding 3 Large API

O text-embedding-3-large da OpenAI na mesma API em que a OpenAI o serve, por $0.065 por 1M tokens em vez de $0.13: o seu modelo de embeddings maior, com vetores que coincidem com os da própria OpenAI.

Preço por 1M tokens de entrada50%de desconto
Entrada
$0.065$0.13
Saída
$0.00
ID do modelotext-embedding-3-largeAtualizado
embed.py
from openai import OpenAI
client = OpenAI(
base_url="https://api.zurelay.com/v1",
api_key="YOUR_ZURELAY_KEY",
)
response = client.embeddings.create(
model="text-embedding-3-large",
input=[
"How can I change my password?",
"Invoices go out on the first of each month.",
],
)
for item in response.data:
print(item.index, len(item.embedding)) # 3072 each
print(response.usage.prompt_tokens, "tokens")

URL base https://api.zurelay.com/v1. Funciona com qualquer SDK da OpenAI, LangChain, LlamaIndex e o AI SDK. Documentação da API de embeddings

Dimensões
3,072, ou menos
Por input
Até 8,192 tokens
Por pedido
2,048 inputs, 300K tokens
Saída
Vetores, grátis
Lançamento
25/01/2024
Estado
Operacional

Preços

Preços da API Text Embedding 3 Large. Uma fração do preço de tabela.

Pague apenas o que utilizar com saldo pré-pago, sem subscrição. Carregue a partir de $10. Os pedidos que falham nunca são cobrados.

PreçoZurelayPreço de tabela de OpenAI
Entrada
por 1M tokens
$0.065$0.13
Saída
por 1M tokens
$0.00—

Cobrado pelos tokens que envia, contados da forma como a OpenAI os conta, sem mínimo por pedido. Os vetores são gratuitos, e dimensões mais curtas ou base64 custam o mesmo. Os pedidos que falham não custam nada.

Calculadora de poupança

Ajuste os controlos deslizantes ao seu consumo mensal.

Tokens de entrada por mês50M
Zurelay
$3.25
Preço de tabela de OpenAI
$6.50
Poupa todos os meses$3.25

$39.00 por ano

Custo

Custo da API Text Embedding 3 Large, calculado.

Cargas de trabalho típicas aos preços em tempo real da Zurelay, lado a lado com o preço de tabela.

    Visão geral

    O que é Text Embedding 3 Large?

    O Text Embedding 3 Large (text-embedding-3-large) é o modelo de embeddings maior da OpenAI, para quando a qualidade da recuperação é o que mais importa. Transforma texto num vetor de 3,072 números, posicionados de modo a que textos com significados semelhantes fiquem próximos, para pesquisa semântica, recuperação (RAG), agrupamento e recomendações. A Zurelay serve-o no endpoint de embeddings da OpenAI, com o mesmo ID de modelo, pedido e resposta, a 50% abaixo do preço de tabela da OpenAI, e os vetores coincidem com os da própria OpenAI.

    Envie texto para POST https://api.zurelay.com/v1/embeddings com o ID de modelo text-embedding-3-large e obtém um vetor por cada entrada, na forma de resposta da OpenAI. A entrada pode ser uma string, um array de até 2,048 strings, um array de IDs de tokens do tokenizer cl100k_base da OpenAI, ou um array de até 2,048 arrays de tokens. Cada entrada pode ter até 8,192 tokens e um pedido até 300,000 tokens no total.

    Os vetores têm 3,072 dimensões por predefinição. O parâmetro dimensions encurta-os para qualquer comprimento entre 1 e 3,072: os modelos text-embedding-3 são treinados para que um vetor encurtado continue a funcionar, e volta renormalizado. A 1,024 dimensões, um vetor ocupa um terço do armazenamento do vetor completo e as pesquisas são mais rápidas. Com o encoding_format definido como base64, cada vetor volta como números float32 little-endian codificados em base64, mais pequeno e mais rápido de descarregar; o SDK Python da OpenAI pede isso por predefinição e descodifica-o por si.

    Os SDK da OpenAI funcionam tal como estão: defina o base URL como https://api.zurelay.com/v1, use a sua chave Zurelay e chame client.embeddings.create. O mesmo se aplica ao OpenAIEmbeddings do LangChain, ao OpenAIEmbedding do LlamaIndex, ao provider OpenAI do Vercel AI SDK e a aplicações que permitem definir um base URL da OpenAI para embeddings. Verificámos cada rota contra a própria API da OpenAI: para o mesmo texto, os vetores coincidem, com uma semelhança de cosseno de 0.9999 ou mais, pelo que um índice criado com a API da OpenAI continua a funcionar quando o consulta através do Zurelay.

    É cobrado apenas por tokens de entrada, contados da forma como a OpenAI os conta: $0.065 por 1M na Zurelay contra os $0.13 da OpenAI, sem mínimo por pedido, e os vetores são gratuitos. Um pedido de embeddings é sempre respondido pelo modelo que indicar: vetores de modelos diferentes não podem ser comparados, por isso a Zurelay nunca responde com outro, e mudar para outro modelo implica voltar a gerar os embeddings de tudo o que tem guardado.

    Pontos fortes

    Onde Text Embedding 3 Large se destaca. E o que as equipas criam com ele.

    01

    O modelo de embeddings maior da OpenAI

    Para pesquisa e RAG em que encontrar a passagem certa importa mais do que o armazenamento ou o preço por token.

    02

    Metade do preço da OpenAI

    $0.065 por 1M tokens contra os $0.13 da OpenAI, sem mínimo por pedido, e os vetores são gratuitos.

    03

    O seu índice continua a funcionar

    Os vetores coincidem com os da OpenAI para o mesmo texto, por isso um índice que criou com a API da OpenAI passa para a Zurelay sem voltar a gerar embeddings.

    04

    Dimensione-o para o seu índice

    Peça entre 1 e 3,072 dimensões: vetores mais curtos voltam renormalizados, ocupam menos armazenamento e a pesquisa é mais rápida.

    Casos de uso

    • Pesquisa semântica

      Encontre documentos, produtos ou pedidos de suporte pelo que significam, e não pelas palavras exatas, através da semelhança de cosseno dos respetivos vetores.

    • Recuperação para chatbots (RAG)

      Obtenha as passagens mais próximas de uma pergunta e entregue-as a um modelo de chat na mesma chave da Zurelay.

    • Deduplicação e agrupamento

      Agrupe registos, pedidos de suporte ou avaliações quase duplicados pela proximidade dos respetivos vetores.

    • Recomendações

      Sugira artigos, produtos ou anúncios semelhantes a partir dos vetores daquilo que alguém viu.

    Começar

    Faça chamadas a Text Embedding 3 Large em três passos.

    Sem lista de espera e sem SDK novo. Se o seu código já chama os embeddings da OpenAI, funciona com a Zurelay — e os vetores que já guardou também.

    1. 1

      Criar uma chave

      Sign up, add credit e create an API key. Set a monthly budget or a rate limit per key if you like.

    2. 2

      Point your SDK em Zurelay

      Change the base URL. The model IDs, the request e the vectors stay the same as OpenAI's.

      https://api.zurelay.com/v1
    3. 3

      Use text-embedding-3-large

      Call client.embeddings.create, or POST text to /v1/embeddings, one string or up to 2,048 at once, e get a vector for each.

      text-embedding-3-large

    Perguntas frequentes

    Perguntas sobre a API de Text Embedding 3 Large.

    Mais alguma dúvida? Fale com a nossa equipa e responderemos por email.

    Quanto custa a API do text-embedding-3-large?

    A Zurelay cobra $0.065 por 1M de tokens de entrada, contra o preço de tabela da OpenAI de $0.13, pelo que poupa 50%. Os vetores são gratuitos: paga apenas os tokens que envia, contados da forma como a OpenAI os conta, sem mínimo por pedido. Os pedidos que falham não custam nada.

    É igual ao text-embedding-3-large da OpenAI?

    Sim. Os pedidos ao text-embedding-3-large correm no modelo da OpenAI, e verificámos cada rota contra a própria API da OpenAI: para o mesmo texto, os vetores coincidem com os da OpenAI com uma similaridade de cosseno de 0.9999 ou mais. A Zurelay é um serviço independente e não está afiliada à OpenAI nem é por ela endossada.

    Os vetores que já tenho continuam a funcionar?

    Sim. Os vetores criados com o text-embedding-3-large da OpenAI podem ser pesquisados com consultas incorporadas através da Zurelay, e vice-versa. Só mudar para outro modelo, como o text-embedding-3-small, obriga a incorporar tudo de novo: vetores de modelos diferentes não podem ser comparados.

    Devo usar o text-embedding-3-large ou o text-embedding-3-small?

    Comece com o text-embedding-3-small: custa muito menos por token e os seus vetores de 1,536 dimensões servem para a maioria das pesquisas e de RAG. Escolha o text-embedding-3-large quando encontrar a passagem certa importar mais do que o armazenamento e o preço. Seja qual for a sua escolha, use-o para tudo o que compara, porque os vetores dos dois não se podem misturar.

    Como faço chamadas ao text-embedding-3-large com o SDK da OpenAI?

    Create a Zurelay API key, set the base URL to https://api.zurelay.com/v1 e call client.embeddings.create with model set to text-embedding-3-large e your text as input. Or POST the same JSON to https://api.zurelay.com/v1/embeddings with your key as a Bearer token. The docs at https://zurelay.com/docs/embeddings have examples in Python, Node.js and cURL.

    Quantas dimensões tem o text-embedding-3-large?

    3,072 por predefinição. Defina dimensions com qualquer número entre 1 e 3,072 para obter um vetor mais curto: o modelo está treinado para que um vetor encurtado continue a funcionar, e volta renormalizado. 1,024 dimensões ocupam um terço do armazenamento. Use o mesmo comprimento para todos os vetores que compara.

    Funciona com LangChain, LlamaIndex e o AI SDK?

    Sim. Indique ao OpenAIEmbeddings do LangChain ou ao OpenAIEmbedding do LlamaIndex o ID de modelo text-embedding-3-large, o URL base da Zurelay e a sua chave, ou crie com eles o fornecedor OpenAI do Vercel AI SDK. A classe Python do LangChain envia IDs de tokens por predefinição, que a Zurelay aceita, por isso as definições predefinidas funcionam.

    Quais são os limites?

    Até 2,048 entradas por pedido, até 8,192 tokens em cada uma e até 300,000 tokens no pedido completo. As strings vazias não são aceites. Um pedido acima de um limite recebe um erro 400 que indica o limite e não tem qualquer custo.

    O encaminhamento inteligente pode responder com outro modelo?

    Não, nunca para embeddings. Vetores de modelos diferentes não podem ser comparados, por isso os de outro modelo estariam errados para o seu índice. Se o text-embedding-3-large estiver em baixo, o pedido falha com um erro 503 que pode repetir.

    Posso experimentá-lo no Playground?

    Sim. No Playground do dashboard, escolha text-embedding-3-large, escreva alguns textos e gere os embeddings: pode ver os primeiros números de cada vetor, os tokens cobrados, o custo e a semelhança de cosseno entre cada par. Obter código gera o mesmo pedido para Python, Node.js ou cURL.

    Mais modelos na Zurelay

    Todos os modelos

    Deixe de pagar o preço de tabela.
    Comece a poupar hoje.

    Crie uma chave em segundos, configure o SDK que já usa para aceder à Zurelay e cada pedido custa até 90% menos desde o primeiro token.