Zurelay Auto

Satu nama model, zurelay-auto, yang menjawab setiap permintaan dengan model yang sesuai. Anda membayar sesuai harga model yang menjawab, dan namanya tercantum dalam respons. Bisa digunakan di mana pun ID model diterima, dengan streaming, alat dan tingkat penalaran yang sama.

import os
from openai import OpenAI
client = OpenAI(
    base_url="https://api.zurelay.com/v1",
    api_key=os.environ["ZURELAY_API_KEY"],
)
response = client.chat.completions.create(
    model="zurelay-auto",
    messages=[
      {
        "role": "user",
        "content": "Summarize this in one sentence: Zurelay is one API for many models."
      }
    ],
)
print(response.choices[0].message.content)

Cara memilih

Auto membaca isi permintaan dan memilih tanpa memanggil model lain, sehingga tidak menambah latensi maupun biaya. Setiap permintaan masuk ke salah satu dari tiga tingkat:

Dalam tingkat tersebut, Auto memilih model pertama yang dapat membaca semua gambar, PDF, klip audio atau video dalam permintaan, memiliki jendela konteks yang cukup untuk prompt beserta max_tokens, dan mendukung tingkat penalaran jika Anda menetapkannya. reasoning_effort Anda dijalankan pada tingkat terdekat yang didukung model tersebut.

Pilihan modelnya

Setiap tingkat ditampilkan sesuai urutan yang dicoba Auto, beserta harga per 1M token input dan output. Daftar ini berubah saat ada model yang lebih baik atau lebih murah; kode Anda tidak perlu berubah.

Biaya yang Anda bayar

Setiap permintaan ditagih sesuai tarif model yang menjawabnya di Zurelay, tanpa biaya tambahan untuk pemilihan model: saat ini mulai dari $0.025 hingga $3.50 per 1M token input dan dari $0.12 hingga $17.50 per 1M token output. Permintaan yang gagal tidak dikenai biaya, seperti pada model lainnya (lihat Penagihan).

Model yang menjawab

Field model dan header x-zurelay-model pada respons menunjukkan model yang menjawab, sedangkan x-zurelay-routed-from: zurelay-auto menandakan bahwa Auto yang memilihnya. Bagian Permintaan di dasbor juga menampilkan informasi yang sama.

HTTP/1.1 200 OK
x-zurelay-model: deepseek-v4.1-flash
x-zurelay-routed-from: zurelay-auto
{
  "model": "deepseek-v4.1-flash",
  "choices": [{ "message": { "role": "assistant", "content": "…" } }],
  …
}

Saat model tidak bisa menjawab

Auto dirancang agar permintaan Anda mendapat jawaban:

1. Model yang dipilihnya menangani kegagalan seperti model lain di Zurelay: mencoba ulang, lalu menggunakan rute cadangan model tersebut.
2. Jika masih tidak bisa menjawab, Auto mencoba model lain di tingkat yang sama untuk permintaan tersebut, lalu tingkat di atasnya, lalu tingkat di bawahnya, hingga total lima model.
3. Hanya jika semuanya gagal, Anda akan menerima 503 dengan model_unavailable dan header retry-after.

Ini tidak bergantung pada pengaturan perutean cerdas Anda: Auto selalu melakukannya, dan header x-zurelay-fallback maupun daftar models pada permintaan tidak mengubah perilaku ini.

Format Anthropic

POST /v1/messages juga menerima zurelay-auto. Dalam format ini, Auto memilih di antara model Claude yang mendukung format Anthropic, sehingga SDK Anthropic dan alat yang dibangun di atasnya berfungsi seperti saat digunakan dengan model Claude mana pun.

Kunci API

Kunci yang dibatasi ke zurelay-auto (lihat aturan kunci) dapat menggunakan model apa pun yang dipilih Auto. Batas pengeluaran dan batas laju tetap berlaku seperti biasa. ID singkat auto juga bisa digunakan.

Kesalahan

• 400 unsupported_content: tidak ada modelnya yang bisa membaca gabungan media yang dikirim dalam permintaan, misalnya audio dan PDF dalam satu permintaan. Kirim secara terpisah, atau pilih model yang bisa membaca keduanya.
• 400 context_length_exceeded: permintaan melebihi panjang yang bisa dibaca oleh semua modelnya. Kirim permintaan yang lebih pendek atau kurangi output yang diminta.
• 503 model_unavailable: semua model yang dicoba gagal. Coba lagi setelah waktu yang ditentukan dalam header retry-after.