OpenAI
Operationeel· elke paar minuten gecontroleerd

Text Embedding 3 Large API

OpenAI's text-embedding-3-large op dezelfde API waarop OpenAI het aanbiedt, voor $0.065 per 1M tokens in plaats van $0.13: het grotere embeddingmodel van OpenAI, met vectoren die overeenkomen met die van OpenAI zelf.

Prijs per 1M input tokens50%korting
Input
$0.065$0.13
Output
$0.00
Model-IDtext-embedding-3-largeBijgewerkt
embed.py
from openai import OpenAI
client = OpenAI(
base_url="https://api.zurelay.com/v1",
api_key="YOUR_ZURELAY_KEY",
)
response = client.embeddings.create(
model="text-embedding-3-large",
input=[
"How can I change my password?",
"Invoices go out on the first of each month.",
],
)
for item in response.data:
print(item.index, len(item.embedding)) # 3072 each
print(response.usage.prompt_tokens, "tokens")

Basis-URL https://api.zurelay.com/v1. Werkt met elke OpenAI SDK, LangChain, LlamaIndex en de AI SDK. Documentatie embeddings-API

Dimensies
3,072, of minder
Per input
Maximaal 8,192 tokens
Per request
2,048 inputs, 300K tokens
Output
Vectoren, gratis
Uitgebracht
25 jan 2024
Status
Operationeel

Prijzen

Prijzen van de Text Embedding 3 Large API. Een fractie van de catalogusprijs.

Je betaalt naar gebruik vanuit je prepaidtegoed, zonder abonnement. Opwaarderen kan vanaf $10. Mislukte verzoeken worden nooit in rekening gebracht.

TariefZurelayCatalogusprijs OpenAI
Input
per 1M tokens
$0.065$0.13
Output
per 1M tokens
$0.00—

Afgerekend op de tokens die je verstuurt, geteld zoals OpenAI ze telt, zonder minimum per aanvraag. De vectoren zijn gratis, en kortere dimensies of base64 kosten hetzelfde. Aanvragen die mislukken kosten niets.

Besparing berekenen

Stel de schuifregelaars in op je maandelijkse verbruik.

Invoertokens per maand50M
Zurelay
$3.25
Catalogusprijs OpenAI
$6.50
Je bespaart elke maand$3.25

$39.00 per jaar

Kosten

Tekst Embedding 3 Large-API-kosten, uitgerekend.

Typische workloads tegen Zurelay's actuele prijzen, naast de lijstprijs.

    Overzicht

    Wat is Text Embedding 3 Large?

    Tekst Embedding 3 Large (text-embedding-3-large) is OpenAI's grotere embeddingmodel, voor wanneer de kwaliteit van retrieval het zwaarst weegt. Het zet tekst om in een vector van 3,072 getallen, zo geplaatst dat teksten met een vergelijkbare betekenis dicht bij elkaar liggen: voor semantisch zoeken, retrieval (RAG), clustering en aanbevelingen. Zurelay serveert het op OpenAI's embeddings-endpoint met hetzelfde model-ID, dezelfde aanvraag en hetzelfde antwoord, voor 50% onder OpenAI's lijstprijs, en de vectoren komen overeen met die van OpenAI zelf.

    Stuur tekst naar POST https://api.zurelay.com/v1/embeddings met het model-ID text-embedding-3-large en je krijgt één vector per input terug, in OpenAI's responsevorm. De input mag een string zijn, een array van maximaal 2,048 strings, een array van token-ID's uit OpenAI's cl100k_base tokenizer, van een array van maximaal 2,048 token-arrays. Elke input mag maximaal 8,192 tokens bevatten, en één aanvraag in totaal maximaal 300,000 tokens.

    Vectoren hebben standaard 3,072 dimensies. Met de parameter dimensions kort je ze in tot elke lengte van 1 tot 3,072: de text-embedding-3-modellen zijn zo getraind dat een ingekorte vector nog steeds werkt, en hij komt opnieuw genormaliseerd terug. Bij 1,024 dimensies neemt een vector een derde van de opslag van de volledige in beslag en zoekt het sneller. Zet je encoding_format op base64, dan komt elke vector terug als base64-gecodeerde little-endian float32-getallen, kleiner en sneller te downloaden; OpenAI's Python SDK vraagt dat standaard aan en decodeert het voor je.

    OpenAI's SDK's werken zoals ze zijn: zet de base URL op https://api.zurelay.com/v1, gebruik je Zurelay-key en roep client.embeddings.create aan. Dat geldt ook voor OpenAIEmbeddings van LangChain, OpenAIEmbedding van LlamaIndex, de OpenAI-provider van de Vercel AI SDK en apps waarin je een OpenAI base URL voor embeddings kunt instellen. We hebben elke route getest tegen OpenAI's eigen API: voor dezelfde tekst komen de vectors overeen, met een cosine similarity van 0.9999 van meer, zodat een index die met OpenAI's API is gebouwd blijft werken wanneer je hem via Zurelay bevraagt.

    Je betaalt alleen voor inputtokens, geteld zoals OpenAI ze telt: $0.065 per 1M bij Zurelay tegen $0.13 bij OpenAI, zonder minimum per aanvraag, en de vectoren zijn gratis. Een embeddings-request wordt altijd beantwoord door het model dat je opgeeft: vectoren van verschillende modellen zijn niet te vergelijken, dus Zurelay antwoordt nooit met een ander model, en overstappen naar een ander model betekent alles wat je hebt opgeslagen opnieuw embedden.

    Sterke punten

    Waar Text Embedding 3 Large in uitblinkt. En wat teams ermee bouwen.

    01

    OpenAI's grotere embeddingmodel

    Voor zoeken en RAG waarbij het juiste fragment vinden belangrijker is dan opslag van prijs per token.

    02

    De helft van de prijs van OpenAI

    $0.065 per 1M tokens tegen $0.13 bij OpenAI, zonder minimum per aanvraag, en de vectoren zijn gratis.

    03

    Je index blijft werken

    Voor dezelfde tekst zijn de vectoren gelijk aan die van OpenAI, dus een index die je met OpenAI's API hebt opgebouwd hoef je voor de overstap naar Zurelay niet opnieuw te embedden.

    04

    Kies de maat die bij je index past

    Vraag om alles van 1 tot 3,072 dimensies: kortere vectoren komen opnieuw genormaliseerd terug, kosten minder opslag en zoeken sneller.

    Toepassingen

    • Semantisch zoeken

      Vind documenten, producten van tickets op betekenis in plaats van op de exacte woorden, via de cosinusgelijkenis van hun vectoren.

    • Retrieval voor chatbots (RAG)

      Haal de passages op die het dichtst bij een vraag liggen en geef ze aan een chatmodel met dezelfde Zurelay-key.

    • Deduplicatie en clustering

      Groepeer bijna dubbele records, supporttickets van reviews op hoe dicht hun vectoren bij elkaar liggen.

    • Aanbevelingen

      Stel vergelijkbare artikelen, producten van advertenties voor op basis van de vectoren van wat iemand bekeek.

    Aan de slag

    Roep Text Embedding 3 Large aan in drie stappen.

    Geen wachtlijst en geen nieuwe SDK. Als je code al OpenAI's embeddings aanroept, werkt die met Zurelay, en de vectoren die je hebt opgeslagen ook.

    1. 1

      Sleutel aanmaken

      Sign up, add credit en create an API key. Set a monthly budget or a rate limit per key if you like.

    2. 2

      Point your SDK voor Zurelay

      Change the base URL. The model IDs, the request en the vectors stay the same as OpenAI's.

      https://api.zurelay.com/v1
    3. 3

      Use text-embedding-3-large

      Call client.embeddings.create, or POST text to /v1/embeddings, one string or up to 2,048 at once, en get a vector for each.

      text-embedding-3-large

    Veelgestelde vragen

    Vragen over de Text Embedding 3 Large API.

    Nog vragen? Vraag het ons team en we antwoorden per e-mail.

    Wat kost de text-embedding-3-large API?

    Zurelay rekent $0.065 per 1M inputtokens, tegen OpenAI's lijstprijs van $0.13, dus je bespaart 50%. De vectoren zijn gratis: je betaalt alleen voor de tokens die je stuurt, geteld zoals OpenAI ze telt, zonder minimum per request. Requests die mislukken kosten niets.

    Is het hetzelfde als OpenAI's text-embedding-3-large?

    Ja. Aanvragen naar text-embedding-3-large draaien op OpenAI's model, en we hebben elke route vergeleken met OpenAI's eigen API: voor dezelfde tekst komen de vectoren overeen met die van OpenAI, met een cosinusgelijkenis van 0.9999 van meer. Zurelay is een onafhankelijke dienst en is niet verbonden aan OpenAI en wordt niet door OpenAI goedgekeurd.

    Blijven de vectoren die ik al heb werken?

    Ja. Vectoren die je met OpenAI's text-embedding-3-large hebt gemaakt, kun je doorzoeken met queries die je via Zurelay embedt, en andersom. Alleen als je naar een ander model overstapt, zoals text-embedding-3-small, moet je alles opnieuw embedden: vectoren van verschillende modellen kun je niet vergelijken.

    Kan ik beter text-embedding-3-large van text-embedding-3-small gebruiken?

    Begin met text-embedding-3-small: dat kost veel minder per token, en de vectoren van 1,536 dimensies volstaan voor de meeste zoek- en RAG-taken. Kies text-embedding-3-large wanneer het juiste fragment vinden belangrijker is dan opslag en prijs. Welke je ook kiest, gebruik hem voor alles wat je vergelijkt, want vectoren van de twee kun je niet mengen.

    Hoe roep ik text-embedding-3-large aan met de OpenAI SDK?

    Create a Zurelay API key, set the base URL to https://api.zurelay.com/v1 en call client.embeddings.create with model set to text-embedding-3-large en your text as input. Or POST the same JSON to https://api.zurelay.com/v1/embeddings with your key as a Bearer token. The docs at https://zurelay.com/docs/embeddings have examples in Python, Node.js and cURL.

    Hoeveel dimensies heeft text-embedding-3-large?

    Standaard 3,072. Zet dimensions op een willekeurig getal van 1 tot 3,072 voor een kortere vector: het model is zo getraind dat een ingekorte vector nog steeds werkt, en hij komt opnieuw genormaliseerd terug. 1,024 dimensies kosten een derde van de opslag. Gebruik dezelfde lengte voor elke vector die je vergelijkt.

    Werkt het met LangChain, LlamaIndex en de AI SDK?

    Ja. Geef LangChain's OpenAIEmbeddings van LlamaIndex's OpenAIEmbedding het model-ID text-embedding-3-large, Zurelay's base URL en je key, of maak daarmee de OpenAI-provider van de Vercel AI SDK aan. De Python-klasse van LangChain stuurt standaard token-ID's, en die accepteert Zurelay, dus de standaardinstellingen werken.

    Wat zijn de limieten?

    Tot 2.048 inputs per aanvraag, tot 8.192 tokens per input en tot 300.000 tokens in het hele request. Lege strings worden niet geaccepteerd. Een request boven een limiet krijgt een 400-fout die de limiet noemt, en kost niets.

    Kan smart routing met een ander model antwoorden?

    Nee, nooit bij embeddings. Vectoren van verschillende modellen kun je niet vergelijken, dus die van een ander model zouden niet kloppen voor je index. Ligt text-embedding-3-large eruit, dan mislukt de aanvraag met een 503-fout die je opnieuw kunt proberen.

    Kan ik het in de Playground proberen?

    Ja. Kies in de Playground van het dashboard text-embedding-3-large, schrijf een paar teksten en embed ze: je ziet de eerste getallen van elke vector, de gefactureerde tokens, de kosten en de cosinusgelijkenis van elk paar. Met Code ophalen krijg je dezelfde request voor Python, Node.js van cURL.

    Meer modellen op Zurelay

    Alle modellen

    Betaal niet langer de volle prijs.
    Begin vandaag met besparen.

    Maak in een paar seconden een sleutel aan, stel de SDK die je al gebruikt in op Zurelay en betaal vanaf de eerste token tot 90% minder voor elk verzoek.