OpenAI's grotere embeddingmodel
Voor zoeken en RAG waarbij het juiste fragment vinden belangrijker is dan opslag van prijs per token.
OpenAI's text-embedding-3-large op dezelfde API waarop OpenAI het aanbiedt, voor $0.065 per 1M tokens in plaats van $0.13: het grotere embeddingmodel van OpenAI, met vectoren die overeenkomen met die van OpenAI zelf.
text-embedding-3-largeBijgewerkt from openai import OpenAIclient = OpenAI( base_url="https://api.zurelay.com/v1", api_key="YOUR_ZURELAY_KEY",)response = client.embeddings.create( model="text-embedding-3-large", input=[ "How can I change my password?", "Invoices go out on the first of each month.", ],)for item in response.data: print(item.index, len(item.embedding)) # 3072 eachprint(response.usage.prompt_tokens, "tokens")Basis-URL https://api.zurelay.com/v1. Werkt met elke OpenAI SDK, LangChain, LlamaIndex en de AI SDK. Documentatie embeddings-API
Prijzen
Je betaalt naar gebruik vanuit je prepaidtegoed, zonder abonnement. Opwaarderen kan vanaf $10. Mislukte verzoeken worden nooit in rekening gebracht.
| Tarief | Zurelay | Catalogusprijs OpenAI | Je bespaart |
|---|---|---|---|
Input per 1M tokens | $0.065 | 50%korting | |
Output per 1M tokens | $0.00 | — | — |
Afgerekend op de tokens die je verstuurt, geteld zoals OpenAI ze telt, zonder minimum per aanvraag. De vectoren zijn gratis, en kortere dimensies of base64 kosten hetzelfde. Aanvragen die mislukken kosten niets.
Stel de schuifregelaars in op je maandelijkse verbruik.
$39.00 per jaar
Kosten
Typische workloads tegen Zurelay's actuele prijzen, naast de lijstprijs.
Overzicht
Tekst Embedding 3 Large (text-embedding-3-large) is OpenAI's grotere embeddingmodel, voor wanneer de kwaliteit van retrieval het zwaarst weegt. Het zet tekst om in een vector van 3,072 getallen, zo geplaatst dat teksten met een vergelijkbare betekenis dicht bij elkaar liggen: voor semantisch zoeken, retrieval (RAG), clustering en aanbevelingen. Zurelay serveert het op OpenAI's embeddings-endpoint met hetzelfde model-ID, dezelfde aanvraag en hetzelfde antwoord, voor 50% onder OpenAI's lijstprijs, en de vectoren komen overeen met die van OpenAI zelf.
Stuur tekst naar POST https://api.zurelay.com/v1/embeddings met het model-ID text-embedding-3-large en je krijgt één vector per input terug, in OpenAI's responsevorm. De input mag een string zijn, een array van maximaal 2,048 strings, een array van token-ID's uit OpenAI's cl100k_base tokenizer, van een array van maximaal 2,048 token-arrays. Elke input mag maximaal 8,192 tokens bevatten, en één aanvraag in totaal maximaal 300,000 tokens.
Vectoren hebben standaard 3,072 dimensies. Met de parameter dimensions kort je ze in tot elke lengte van 1 tot 3,072: de text-embedding-3-modellen zijn zo getraind dat een ingekorte vector nog steeds werkt, en hij komt opnieuw genormaliseerd terug. Bij 1,024 dimensies neemt een vector een derde van de opslag van de volledige in beslag en zoekt het sneller. Zet je encoding_format op base64, dan komt elke vector terug als base64-gecodeerde little-endian float32-getallen, kleiner en sneller te downloaden; OpenAI's Python SDK vraagt dat standaard aan en decodeert het voor je.
OpenAI's SDK's werken zoals ze zijn: zet de base URL op https://api.zurelay.com/v1, gebruik je Zurelay-key en roep client.embeddings.create aan. Dat geldt ook voor OpenAIEmbeddings van LangChain, OpenAIEmbedding van LlamaIndex, de OpenAI-provider van de Vercel AI SDK en apps waarin je een OpenAI base URL voor embeddings kunt instellen. We hebben elke route getest tegen OpenAI's eigen API: voor dezelfde tekst komen de vectors overeen, met een cosine similarity van 0.9999 van meer, zodat een index die met OpenAI's API is gebouwd blijft werken wanneer je hem via Zurelay bevraagt.
Je betaalt alleen voor inputtokens, geteld zoals OpenAI ze telt: $0.065 per 1M bij Zurelay tegen $0.13 bij OpenAI, zonder minimum per aanvraag, en de vectoren zijn gratis. Een embeddings-request wordt altijd beantwoord door het model dat je opgeeft: vectoren van verschillende modellen zijn niet te vergelijken, dus Zurelay antwoordt nooit met een ander model, en overstappen naar een ander model betekent alles wat je hebt opgeslagen opnieuw embedden.
Sterke punten
Voor zoeken en RAG waarbij het juiste fragment vinden belangrijker is dan opslag van prijs per token.
$0.065 per 1M tokens tegen $0.13 bij OpenAI, zonder minimum per aanvraag, en de vectoren zijn gratis.
Voor dezelfde tekst zijn de vectoren gelijk aan die van OpenAI, dus een index die je met OpenAI's API hebt opgebouwd hoef je voor de overstap naar Zurelay niet opnieuw te embedden.
Vraag om alles van 1 tot 3,072 dimensies: kortere vectoren komen opnieuw genormaliseerd terug, kosten minder opslag en zoeken sneller.
Toepassingen
Vind documenten, producten van tickets op betekenis in plaats van op de exacte woorden, via de cosinusgelijkenis van hun vectoren.
Haal de passages op die het dichtst bij een vraag liggen en geef ze aan een chatmodel met dezelfde Zurelay-key.
Groepeer bijna dubbele records, supporttickets van reviews op hoe dicht hun vectoren bij elkaar liggen.
Stel vergelijkbare artikelen, producten van advertenties voor op basis van de vectoren van wat iemand bekeek.
Aan de slag
Geen wachtlijst en geen nieuwe SDK. Als je code al OpenAI's embeddings aanroept, werkt die met Zurelay, en de vectoren die je hebt opgeslagen ook.
Sign up, add credit en create an API key. Set a monthly budget or a rate limit per key if you like.
Change the base URL. The model IDs, the request en the vectors stay the same as OpenAI's.
https://api.zurelay.com/v1Call client.embeddings.create, or POST text to /v1/embeddings, one string or up to 2,048 at once, en get a vector for each.
text-embedding-3-largeWerkt met de tools die je al gebruikt
Vergelijken
$0.01 per 1M invoertokens
Kies Text Embedding 3 Small, OpenAI's kleine embeddingmodel, voor de meeste zoek- en RAG-taken tegen een veel lagere prijs per token, met 1,536 dimensies.
Text Embedding 3 Small API$0.025 / $0.125 per 1M tokens
Kies GPT-6 Luna, het snelle, voordelige chatmodel van OpenAI, om antwoorden te schrijven op basis van wat je zoekopdracht vindt.
GPT-6 Luna API$0.04 per 1M invoertokens
Kies GPT-6 Luna Decisions om tekst te classificeren of te scoren met waarschijnlijkheden, in plaats van teksten op betekenis te vergelijken.
GPT-6 Luna Decisions APIVeelgestelde vragen
Nog vragen? Vraag het ons team en we antwoorden per e-mail.
Zurelay rekent $0.065 per 1M inputtokens, tegen OpenAI's lijstprijs van $0.13, dus je bespaart 50%. De vectoren zijn gratis: je betaalt alleen voor de tokens die je stuurt, geteld zoals OpenAI ze telt, zonder minimum per request. Requests die mislukken kosten niets.
Ja. Aanvragen naar text-embedding-3-large draaien op OpenAI's model, en we hebben elke route vergeleken met OpenAI's eigen API: voor dezelfde tekst komen de vectoren overeen met die van OpenAI, met een cosinusgelijkenis van 0.9999 van meer. Zurelay is een onafhankelijke dienst en is niet verbonden aan OpenAI en wordt niet door OpenAI goedgekeurd.
Ja. Vectoren die je met OpenAI's text-embedding-3-large hebt gemaakt, kun je doorzoeken met queries die je via Zurelay embedt, en andersom. Alleen als je naar een ander model overstapt, zoals text-embedding-3-small, moet je alles opnieuw embedden: vectoren van verschillende modellen kun je niet vergelijken.
Begin met text-embedding-3-small: dat kost veel minder per token, en de vectoren van 1,536 dimensies volstaan voor de meeste zoek- en RAG-taken. Kies text-embedding-3-large wanneer het juiste fragment vinden belangrijker is dan opslag en prijs. Welke je ook kiest, gebruik hem voor alles wat je vergelijkt, want vectoren van de twee kun je niet mengen.
Create a Zurelay API key, set the base URL to https://api.zurelay.com/v1 en call client.embeddings.create with model set to text-embedding-3-large en your text as input. Or POST the same JSON to https://api.zurelay.com/v1/embeddings with your key as a Bearer token. The docs at https://zurelay.com/docs/embeddings have examples in Python, Node.js and cURL.
Standaard 3,072. Zet dimensions op een willekeurig getal van 1 tot 3,072 voor een kortere vector: het model is zo getraind dat een ingekorte vector nog steeds werkt, en hij komt opnieuw genormaliseerd terug. 1,024 dimensies kosten een derde van de opslag. Gebruik dezelfde lengte voor elke vector die je vergelijkt.
Ja. Geef LangChain's OpenAIEmbeddings van LlamaIndex's OpenAIEmbedding het model-ID text-embedding-3-large, Zurelay's base URL en je key, of maak daarmee de OpenAI-provider van de Vercel AI SDK aan. De Python-klasse van LangChain stuurt standaard token-ID's, en die accepteert Zurelay, dus de standaardinstellingen werken.
Tot 2.048 inputs per aanvraag, tot 8.192 tokens per input en tot 300.000 tokens in het hele request. Lege strings worden niet geaccepteerd. Een request boven een limiet krijgt een 400-fout die de limiet noemt, en kost niets.
Nee, nooit bij embeddings. Vectoren van verschillende modellen kun je niet vergelijken, dus die van een ander model zouden niet kloppen voor je index. Ligt text-embedding-3-large eruit, dan mislukt de aanvraag met een 503-fout die je opnieuw kunt proberen.
Ja. Kies in de Playground van het dashboard text-embedding-3-large, schrijf een paar teksten en embed ze: je ziet de eerste getallen van elke vector, de gefactureerde tokens, de kosten en de cosinusgelijkenis van elk paar. Met Code ophalen krijg je dezelfde request voor Python, Node.js van cURL.
Maak in een paar seconden een sleutel aan, stel de SDK die je al gebruikt in op Zurelay en betaal vanaf de eerste token tot 90% minder voor elk verzoek.