Akıllı yönlendirme

İstekte belirtilen model hizmet dışıysa akıllı yönlendirme, hata yerine benzer bir alternatiften yanıt alır. Uygulamanız, tek satır yeniden deneme kodu yazmadan kesinti sırasında çalışmaya devam eder. Otomatik mod, sohbet ve görsel modellerini kapsar. Ses isteklerinde model yalnızca alternatifleri kendiniz seçtiğinizde değiştirilir; video isteklerinde ise asla değiştirilmez.

Nasıl çalışır

1. Her istek önce seçtiğiniz modele gider. Sorunların çoğu bu aşamada çözülür: modele giden yollardan biri takılır veya hata verirse siz bir şey görmeden istek başka bir yoldan yeniden denenir.
2. Akıllı yönlendirme ancak modelin kendisi yanıt veremediğinde (tüm yollar başarısız olduğunda veya kullanılabilir yol kalmadığında) devreye girer.
3. Alternatifleri sırayla dener; her birinde aynı otomatik kurtarma mekanizması işler ve biri yanıt verene kadar devam eder.
4. Yanıtta hangi modelin yanıt verdiği belirtilir (gövdede model, x-zurelay-model ve x-zurelay-routed-from başlıklarında) ve ücret o modelin fiyatına göre hesaplanır.

Bir alternatif denenmeden önce seçtiğiniz modele giden tüm yollar denenir; yani yalnızca modeliniz gerçekten yanıt veremediğinde başka bir modele geçilir. Tüm denemeler kısa sürede başarısız olursa hata gösterilmeden önce model ve alternatiflerinin her biri bir kez daha denenir. Hizmet dışı olduğu bilinen modeller doğrudan atlanır.

Etkinleştirme

Bir anahtarın ayarı şunlardan biri olabilir:

İstek bazında

Alternatif listesi

model ile birlikte models gönderin: model hizmet dışıysa anahtar ayarı veya başlık ne olursa olsun sırayla denenecek en fazla üç alternatif. Bu liste modele asla gönderilmez. OpenAI Python SDK, listeyi extra_body üzerinden gönderir. Görsel ve ses istekleri de bu listeyi kabul eder; form olarak gönderilen bir görsel düzenleme isteğinde ise liste models alanı olarak iletilir (alan tekrarlanarak veya virgülle ayrılmış tek bir liste olarak).

import os
from openai import OpenAI
client = OpenAI(
    base_url="https://api.zurelay.com/v1",
    api_key=os.environ["ZURELAY_API_KEY"],
)
response = client.chat.completions.create(
    model="gpt-6-sol",
    messages=[
      {
        "role": "user",
        "content": "Summarize this ticket in one line: ..."
      }
    ],
    extra_body={
      "models": [
        "gpt-6.1-sol",
        "gpt-6-astra"
      ]
    },
)
print(response.choices[0].message.content)

Başlık

x-zurelay-fallback: off    # never reroute this request
x-zurelay-fallback: auto   # use the automatic alternatives (chat and image models)

Öncelik sırası: isteğin models değeri, ardından başlık, sonra anahtarın ayarı ve son olarak çalışma alanı varsayılanı.

Hangi alternatifler yanıt verebilir

• Aynı türde modellerdir. Sohbet modelinin alternatifleri sohbet modelleri, görsel modelinin alternatifleri görsel modelleri, ses modelinin alternatifleri ses modelleridir. Diğer tüm modeller için tanımlanan bir kural (*) birden fazla tür içerebilir; her istek kendi türündekileri kullanır.
• Gönderdiğiniz içeriği okuyabilirler. PDF veya video içeren bir istek yalnızca bu içeriği okuyabilen alternatiflere gider. Hiçbiri okuyamıyorsa dosyanızı yok sayan bir yanıt yerine hata alırsınız.
• Anahtarın bunları kullanma izni vardır. Anahtarın izin verilen modelleri dışındaki alternatifler atlanır.
• Uç noktayla uyumludurlar. /v1/messages üzerinde alternatifler Claude modelleridir.
• İsteğin kendisinde sorun yoktur. Model isteği reddettiyse (hatalı bir parametre, çok uzun bir istem, çizmeyi reddettiği bir istem veya seslendirmeyi reddettiği bir metin) istek yeniden yönlendirilmez: alternatifler de aynı isteği reddeder.

Görseller

Otomatik modda bir görsel isteği önce aynı aileye yönlendirilir (GPT Image 2.5 Sunburst için Flare, Nano Banana Pro için Nano Banana 2.1) ve yalnızca yaklaşık aynı kalitede görsel üreten modeller kullanılır. Otomatik seçilen bir alternatifin fiyatı, seçtiğiniz modelin istediğiniz boyuttaki fiyatının 1.5 katını asla aşmaz. Kendi kurallarınızda ve isteğin models listesinde böyle bir sınır yoktur. Her iki durumda da:

• Aynı boyut ve oran. Nano Banana modelleri size ve aspect_ratio değerlerini aynı şekilde yorumlar. GPT Image, bir Nano Banana boyutunun yerini yalnızca ikisi de aynı boyutlarda görsel üretiyorsa alır: 1K kare (1024x1024), 1K 3:2 veya 2:3, 2K kare, 4K 16:9 veya 9:16. Nano Banana ise bir GPT Image piksel boyutunun yerini yalnızca tam olarak o piksel boyutlarını ürettiğinde (1024x1024, 2048x2048) veya siz boyut belirtmediğinizde alır.
• Referans görselleriniz. Alternatif, gönderdiğiniz kadar referans görseli kabul edebilmelidir (Nano Banana 14, GPT Image 16).
• Seçenekleriniz. Şeffaf bir background yalnızca GPT Image modellerine yönlendirilir.
• Her yanıt tek bir modelden gelir. n 1 değerinin üzerindeyken tüm görseller aynı modelden gelir.

Konuşma

Konuşma üretiminde model yalnızca kendi kurallarınız veya isteğin models listesi doğrultusunda değiştirilir, otomatik modda asla değiştirilmez. Tüm konuşma modelleri aynı sesleri destekler, bu yüzden alternatif bir model metninizi istediğiniz voice ile, belirttiğiniz instructions kullanarak okur. Girdi ve çıktı token başlıkları, yanıtı üreten modele aittir.

Otomatik alternatifler

Doğrudan katalogdan: otomatik modda her sohbet ve görsel modeli için devreye giren alternatifler.

Bilmeniz gerekenler

• Alternatif bir model, istediğiniz modelden daha pahalı veya daha ucuz olabilir. İstek günlüğünüz, yanıtı üreten modeli ve maliyetini gösterir.
• Akış aynı şekilde çalışır: bir model yanıt üretmeye başlayana kadar hiçbir şey gönderilmez ve parçalarda o modelin adı yer alır.
• Görsel ve konuşma yanıtları aynı x-zurelay-model ve x-zurelay-routed-from başlıklarını taşır, kitaplığınızdaki görseller de onları üreten modelin adıyla etiketlenir.
• Videolar başka modele yönlendirilmez: video işi istediğiniz modelde kalır ve tamamlanana veya başarısız olana kadar yeniden gönderilir (ücretsiz).