Zurelay Auto

Ein Modellname, zurelay-auto, der jede Anfrage mit dem passenden Modell beantwortet. Du zahlst den Preis des Modells, das geantwortet hat, und siehst seinen Namen in der Antwort. Er funktioniert überall, wo eine Modell-ID verwendet wird – mit denselben Streaming-, Tool- und Reasoning-Stufen.

import os
from openai import OpenAI
client = OpenAI(
    base_url="https://api.zurelay.com/v1",
    api_key=os.environ["ZURELAY_API_KEY"],
)
response = client.chat.completions.create(
    model="zurelay-auto",
    messages=[
      {
        "role": "user",
        "content": "Summarize this in one sentence: Zurelay is one API for many models."
      }
    ],
)
print(response.choices[0].message.content)

So wählt es aus

Auto prüft die Angaben in der Anfrage und wählt ein Modell, ohne selbst eines aufzurufen. Das verursacht keine zusätzliche Verzögerung und kostet nichts extra. Jede Anfrage fällt in eine von drei Stufen:

Innerhalb der Stufe wählt Auto das erste Modell, das alle mitgesendeten Bilder, PDFs, Audioclips oder Videos verarbeiten kann, dessen Kontextfenster den Prompt und sein max_tokens fasst und das eine gesetzte Reasoning-Stufe unterstützt. Dein reasoning_effort läuft auf der nächstgelegenen Stufe, die das Modell unterstützt.

Die Modelle, aus denen Auto wählt

Die Modelle jeder Stufe in der Reihenfolge, in der Auto sie ausprobiert, mit Preisen pro 1M Input- und Output-Tokens. Die Liste ändert sich, wenn bessere oder günstigere Modelle hinzukommen; dein Code muss sich nicht ändern.

Was du zahlst

Jede Anfrage wird zum Zurelay-Preis des Modells abgerechnet, das sie beantwortet hat. Für die Auswahl kommt nichts dazu: aktuell von $0.025 bis $3.50 pro 1M Eingabetoken und von $0.12 bis $17.50 pro 1M Ausgabetoken. Fehlgeschlagene Anfragen sind kostenlos, wie bei jedem Modell (siehe Abrechnung).

Welches Modell geantwortet hat

Das Feld model in der Antwort und der Header x-zurelay-model nennen das Modell, das geantwortet hat. x-zurelay-routed-from: zurelay-auto zeigt an, dass Auto es ausgewählt hat. Das siehst du auch bei den Anfragen im Dashboard.

HTTP/1.1 200 OK
x-zurelay-model: deepseek-v4.1-flash
x-zurelay-routed-from: zurelay-auto
{
  "model": "deepseek-v4.1-flash",
  "choices": [{ "message": { "role": "assistant", "content": "…" } }],
  …
}

Wenn ein Modell nicht antworten kann

Auto ist darauf ausgelegt, eine Antwort zu liefern:

1. Das ausgewählte Modell wird wie jedes Modell auf Zurelay abgesichert: Zuerst wird die Anfrage erneut versucht, dann werden die Backup-Routen des Modells genutzt.
2. Kann es immer noch nicht antworten, versucht Auto die übrigen Modelle der Stufe, dann die Stufe darüber und schließlich die darunter – insgesamt bis zu fünf Modelle.
3. Nur wenn alle scheitern, erhältst du eine 503 mit model_unavailable und einem retry-after-Header.

Das hängt nicht von deiner Einstellung für Smart Routing ab: Auto macht das immer. Weder der x-zurelay-fallback-Header noch die models-Liste einer Anfrage ändern daran etwas.

Anthropic-Format

POST /v1/messages akzeptiert auch zurelay-auto. Auto wählt dann unter Claude-Modellen aus, die das Anthropic-Format unterstützen. So funktionieren Anthropic-SDKs und darauf aufbauende Tools wie mit jedem anderen Claude-Modell.

API-Schlüssel

Ein auf zurelay-auto beschränkter Schlüssel (siehe Schlüsselregeln) kann jedes Modell nutzen, das Auto auswählt. Ausgaben- und Ratenlimits gelten wie gewohnt. Auch die Kurz-ID auto funktioniert.

Fehler

• 400 unsupported_content: Keines der Modelle kann die in einer Anfrage kombinierte Medien lesen, etwa Audio und eine PDF zusammen. Sende sie getrennt oder wähle ein Modell, das beides lesen kann.
• 400 context_length_exceeded: Die Anfrage ist länger, als eines der Modelle verarbeiten kann. Kürze sie oder fordere weniger Ausgabe an.
• 503 model_unavailable: Alle versuchten Modelle sind gescheitert. Versuche es nach der im retry-after-Header angegebenen Wartezeit erneut.