OpenAI
Betriebsbereit· alle paar Minuten geprüft

Text Embedding 3 Large API

OpenAIs text-embedding-3-large über dieselbe API, über die OpenAI es anbietet, für $0.065 pro 1M Tokens statt $0.13: sein größeres Embedding-Modell, mit Vektoren, die zu OpenAIs eigenen passen.

Preis pro 1M Input-tokens50%Rabatt
Input
$0.065$0.13
Output
$0.00
Model IDtext-embedding-3-largeAktualisiert
embed.py
from openai import OpenAI
client = OpenAI(
base_url="https://api.zurelay.com/v1",
api_key="YOUR_ZURELAY_KEY",
)
response = client.embeddings.create(
model="text-embedding-3-large",
input=[
"How can I change my password?",
"Invoices go out on the first of each month.",
],
)
for item in response.data:
print(item.index, len(item.embedding)) # 3072 each
print(response.usage.prompt_tokens, "tokens")

Base URL https://api.zurelay.com/v1. Funktioniert mit jedem OpenAI SDK, LangChain, LlamaIndex und dem AI SDK. Embeddings-API-Docs

Dimensionen
3,072 oder weniger
Pro Input
Bis zu 8,192 tokens
Pro Anfrage
2,048 Inputs, 300K Tokens
Output
Vektoren, kostenlos
Veröffentlicht
25. Jan. 2024
Status
Betriebsbereit

Preise

Text Embedding 3 Large API-Preise. Ein Bruchteil des Listenpreises.

Du zahlst aus Prepaid-Guthaben, ohne Abo. Lade ab $10 auf. Fehlgeschlagene Anfragen werden nie berechnet.

PreisZurelayOpenAI-Listenpreis
Input
pro 1M tokens
$0.065$0.13
Output
pro 1M tokens
$0.00—

Abgerechnet werden die Tokens, die du sendest, gezählt wie OpenAI sie zählt, ohne Minimum pro Anfrage. Die Vektoren sind kostenlos, und kürzere Dimensionen oder base64 kosten dasselbe. Fehlgeschlagene Anfragen kosten nichts.

Sparrechner

Stell mit den Reglern deinen monatlichen Verbrauch ein.

Eingabe-Token pro Monat50M
Zurelay
$3.25
OpenAI-Listenpreis
$6.50
Du sparst jeden Monat$3.25

$39.00 pro Jahr

Kosten

Text Embedding 3 Large API-Kosten, durchgerechnet.

Typische Workloads zu Zurelays aktuellen Preisen, direkt neben dem Listenpreis.

    Übersicht

    Was ist Text Embedding 3 Large?

    Text Embedding 3 Large (text-embedding-3-large) ist OpenAIs größeres Embedding-Modell – für die Fälle, in denen die Retrieval-Qualität am wichtigsten ist. Es macht aus Text einen Vektor aus 3,072 Zahlen, so angeordnet, dass Texte mit ähnlicher Bedeutung nah beieinander liegen: für semantische Suche, Retrieval (RAG), Clustering und Empfehlungen. Zurelay bietet es über OpenAIs Embeddings-Endpoint mit derselben Model-ID, derselben Anfrage und derselben Antwort an, 50% unter OpenAIs Listenpreis, und die Vektoren stimmen mit OpenAIs eigenen überein.

    Schick Text an POST https://api.zurelay.com/v1/embeddings mit der Model-ID text-embedding-3-large und du bekommst pro Input einen Vektor zurück, im Antwortformat von OpenAI. Der Input kann ein String sein, ein Array mit bis zu 2,048 Strings, ein Array von Token-IDs aus OpenAIs cl100k_base-Tokenizer oder ein Array mit bis zu 2,048 Token-Arrays. Jeder Input kann bis zu 8,192 Tokens lang sein, eine Anfrage insgesamt bis zu 300,000 Tokens.

    Vektoren haben standardmäßig 3,072 Dimensionen. Mit dem Parameter dimensions kürzt du sie auf jede Länge von 1 bis 3,072: Die text-embedding-3-Modelle sind so trainiert, dass ein gekürzter Vektor weiter funktioniert, und er kommt re-normalisiert zurück. Bei 1,024 Dimensionen braucht ein Vektor ein Drittel des Speichers des vollen und sucht schneller. Mit encoding_format auf base64 kommt jeder Vektor als base64-kodierte little-endian float32-Zahlen zurück, kleiner und schneller zu laden; das Python SDK von OpenAI fragt das standardmäßig an und dekodiert es für dich.

    OpenAIs SDKs funktionieren unverändert: Base URL auf https://api.zurelay.com/v1 setzen, deinen Zurelay-Key nutzen und client.embeddings.create aufrufen. Genauso LangChains OpenAIEmbeddings, LlamaIndex' OpenAIEmbedding, der OpenAI-Provider des Vercel AI SDK und Apps, in denen du eine OpenAI Base URL für Embeddings setzen kannst. Wir haben jede Route gegen OpenAIs eigene API geprüft: Bei gleichem Text stimmen die Vektoren überein, mit einer Kosinus-Ähnlichkeit von 0.9999 oder mehr – ein Index, der mit OpenAIs API gebaut wurde, funktioniert also weiter, wenn du ihn über Zurelay abfragst.

    Abgerechnet wird nur über Input-Tokens, gezählt wie OpenAI sie zählt: $0.065 pro 1M bei Zurelay gegenüber OpenAI's $0.13, ohne Mindestbetrag pro Anfrage, und die Vektoren sind gratis. Eine Embeddings-Anfrage wird immer von dem Modell beantwortet, das du nennst: Vektoren verschiedener Modelle lassen sich nicht vergleichen, deshalb antwortet Zurelay nie mit einem anderen, und ein Wechsel zu einem anderen Modell heißt, alles Gespeicherte neu zu embedden.

    Stärken

    Worin Text Embedding 3 Large glänzt. Und was Teams damit entwickeln.

    01

    Das größere Embedding-Modell von OpenAI

    Für Suche und RAG, wenn der richtige Abschnitt wichtiger ist als Speicher oder Preis pro Token.

    02

    Zum halben OpenAI-Preis

    $0.065 pro 1M Tokens gegenüber OpenAI's $0.13, ohne Mindestbetrag pro Anfrage, und die Vektoren sind gratis.

    03

    Dein Index läuft weiter

    Für denselben Text stimmen die Vektoren mit denen von OpenAI überein – ein Index, den du mit OpenAI's API gebaut hast, braucht also kein neues Embedding, um zu Zurelay zu wechseln.

    04

    Auf deinen Index zuschneiden

    Frag jede Länge von 1 bis 3,072 Dimensionen an: Kürzere Vektoren kommen re-normalisiert zurück, brauchen weniger Speicher und suchen schneller.

    Anwendungsfälle

    • Semantische Suche

      Finde Dokumente, Produkte oder Tickets über ihre Bedeutung statt über exakte Wörter – per Kosinus-Ähnlichkeit ihrer Vektoren.

    • Retrieval für Chatbots (RAG)

      Hol die Passagen, die einer Frage am nächsten liegen, und gib sie einem Chat-Modell mit demselben Zurelay-Key.

    • Deduplizierung und Clustering

      Gruppiere fast identische Datensätze, Support-Tickets oder Bewertungen danach, wie nah ihre Vektoren beieinanderliegen.

    • Empfehlungen

      Schlag ähnliche Artikel, Produkte oder Inserate vor – aus den Vektoren dessen, was sich jemand angesehen hat.

    Jetzt starten

    Nutze Text Embedding 3 Large in drei Schritten.

    Keine Warteliste, kein neues SDK. Wenn dein Code schon OpenAIs Embeddings aufruft, läuft er mit Zurelay – und deine gespeicherten Vektoren auch.

    1. 1

      Key erstellen

      Sign up, add credit und create an API key. Set a monthly budget or a rate limit per key if you like.

    2. 2

      Point your SDK bei Zurelay

      Change the base URL. The model IDs, the request und the vectors stay the same as OpenAI's.

      https://api.zurelay.com/v1
    3. 3

      Use text-embedding-3-large

      Call client.embeddings.create, or POST text to /v1/embeddings, one string or up to 2,048 at once, und get a vector for each.

      text-embedding-3-large

    FAQ

    Fragen zur Text Embedding 3 Large API.

    Noch Fragen? Frag unser Team – wir antworten dir per E-Mail.

    Was kostet die text-embedding-3-large API?

    Zurelay berechnet $0.065 pro 1M Input-Tokens gegenüber OpenAI's Listenpreis von $0.13, du sparst also 50%. Die Vektoren sind gratis: Du zahlst nur für die Tokens, die du sendest, gezählt wie OpenAI sie zählt, ohne Mindestbetrag pro Anfrage. Fehlgeschlagene Anfragen kosten nichts.

    Ist es dasselbe wie OpenAIs text-embedding-3-large?

    Ja. Anfragen an text-embedding-3-large laufen auf OpenAIs Modell, und wir haben jede Route gegen OpenAIs eigene API geprüft: Bei gleichem Text stimmen die Vektoren mit OpenAIs überein, mit einer Kosinus-Ähnlichkeit von 0.9999 oder mehr. Zurelay ist ein unabhängiger Dienst und steht in keiner Verbindung zu OpenAI und wird von OpenAI nicht unterstützt.

    Funktionieren meine bestehenden Vektoren weiter?

    Ja. Vektoren, die du mit OpenAIs text-embedding-3-large erstellt hast, lassen sich mit Queries durchsuchen, die über Zurelay eingebettet wurden, und umgekehrt. Nur ein Wechsel zu einem anderen Modell, etwa text-embedding-3-small, heißt, alles neu zu embedden: Vektoren verschiedener Modelle lassen sich nicht vergleichen.

    Soll ich text-embedding-3-large oder text-embedding-3-small nutzen?

    Fang mit text-embedding-3-small an: Es kostet viel weniger pro Token, und seine 1,536-dimensionalen Vektoren passen für die meisten Suche- und RAG-Fälle. Nimm text-embedding-3-large, wenn der richtige Abschnitt wichtiger ist als Speicher und Preis. Was du auch wählst, nutze es für alles, was du vergleichst, denn die Vektoren der beiden lassen sich nicht mischen.

    Wie rufe ich text-embedding-3-large mit dem OpenAI SDK auf?

    Create a Zurelay API key, set the base URL to https://api.zurelay.com/v1 und call client.embeddings.create with model set to text-embedding-3-large und your text as input. Or POST the same JSON to https://api.zurelay.com/v1/embeddings with your key as a Bearer token. The docs at https://zurelay.com/docs/embeddings have examples in Python, Node.js and cURL.

    Wie viele Dimensionen hat text-embedding-3-large?

    Standardmäßig 3,072. Setz dimensions auf eine beliebige Zahl von 1 bis 3,072 für einen kürzeren Vektor: Das Modell ist so trainiert, dass ein gekürzter Vektor weiter funktioniert, und er kommt re-normalisiert zurück. 1,024 Dimensionen brauchen ein Drittel des Speichers. Nutze dieselbe Länge für jeden Vektor, den du vergleichst.

    Funktioniert es mit LangChain, LlamaIndex und dem AI SDK?

    Ja. Gib LangChains OpenAIEmbeddings oder LlamaIndex' OpenAIEmbedding die Model-ID text-embedding-3-large, Zurelays Base-URL und deinen Key – oder erstell damit den OpenAI-Provider des Vercel AI SDK. Die Python-Klasse von LangChain sendet standardmäßig Token-IDs, die Zurelay akzeptiert, ihre Standardeinstellungen funktionieren also.

    Welche Limits gelten?

    Bis zu 2,048 Inputs pro Anfrage, bis zu 8,192 Tokens pro Input und bis zu 300,000 Tokens pro Anfrage insgesamt. Leere Strings werden nicht akzeptiert. Eine Anfrage über einem Limit bekommt einen 400-Fehler, der das Limit nennt, und kostet nichts.

    Kann smart routing mit einem anderen Modell antworten?

    Nein, bei Embeddings nie. Vektoren verschiedener Modelle lassen sich nicht vergleichen, die eines anderen Modells wären also falsch für deinen Index. Wenn text-embedding-3-large nicht verfügbar ist, schlägt die Anfrage mit einem 503-Fehler fehl, den du wiederholen kannst.

    Kann ich es im Playground ausprobieren?

    Ja. Im Playground im Dashboard wählst du text-embedding-3-large, schreibst ein paar Texte und embeddest sie: Du siehst die ersten Zahlen jedes Vektors, die abgerechneten Tokens, die Kosten und die Kosinus-Ähnlichkeit jedes Paares. „Code holen“ erzeugt dieselbe Anfrage für Python, Node.js oder cURL.

    Weitere Modelle auf Zurelay

    Alle Modelle

    Zahl nicht länger den Listenpreis.
    Spare ab heute.

    Erstelle in Sekunden einen Key, richte dein bestehendes SDK auf Zurelay aus und spare bei jeder Anfrage ab dem ersten Token bis zu 90%.