Sohbet tamamlamaları

OpenAI'ın Chat Completions API'si, tüm metin modelleri için: aynı istek ve yanıt, aynı akış, aynı SDK'lar.

İstek

Yanıt

{
  "id": "chatcmpl-AbC123...",
  "object": "chat.completion",
  "created": 1790870400,
  "model": "claude-opus-5-5",
  "choices": [
    {
      "index": 0,
      "message": {
        "role": "assistant",
        "content": "Here's the summary..."
      },
      "finish_reason": "stop"
    }
  ],
  "usage": {
    "prompt_tokens": 1204,
    "completion_tokens": 312,
    "total_tokens": 1516,
    "prompt_tokens_details": { "cached_tokens": 1024 },
    "completion_tokens_details": { "reasoning_tokens": 128 }
  }
}

• model, yanıt veren modeldir. Akıllı yönlendirme bir alternatifle yanıt vermediyse, istediğiniz modeldir.
• Akıl yürüten modeller mesaja reasoning_content ekleyebilir: modelin paylaştığı düşünme sürecidir.
• usage, ücretlendirilen kullanımdır. cached_tokens, modelin istem önbelleğinden okunan girdi tokenlarıdır; modelin önbellek fiyatı varsa bu fiyat üzerinden ücretlendirilir.

Her yanıtta şu başlıklar da bulunur:

Akış

stream: true ile yanıt, OpenAI’ın parça biçiminde sunucu tarafından gönderilen olaylar olarak gelir ve data: [DONE] ile biter. Tüm SDK’lar bunları sizin için okur.

import os
from openai import OpenAI
client = OpenAI(
    base_url="https://api.zurelay.com/v1",
    api_key=os.environ["ZURELAY_API_KEY"],
)
stream = client.chat.completions.create(
    model="claude-sonnet-5-5",
    messages=[
      {
        "role": "user",
        "content": "Write a limerick about databases."
      }
    ],
    stream=True,
    stream_options={
      "include_usage": True
    },
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

• Model ilk tokenını üretmeden yanıt gönderilmez; böylece yeniden deneme veya başka bir yola geçiş sizin tarafınızda görünmez.
• Sessiz aralıklarda (model adımlar arasında düşünürken) her 15 saniyede bir SSE yorum satırları (: keep-alive) gönderilir. İstemciler bunları yok sayar; bu satırlar proxy’lerin bağlantıyı kapatmasını önler. İlk tokenın gelmesi 20 saniyeden uzun sürerse (uzun bir istem veya takılıp değiştirilen bir yol nedeniyle), akış o anda açılır: siz beklerken başlıklar ve bağlantıyı açık tutan yorumlar gelir. Sonraki yol denenmeden önce her yola başlaması için en fazla 3 dakika (yüksek akıl yürütme çabasında 5) tanınır; bu nedenle istemcinizin zaman aşımını 10 dakika olarak ayarlayın.
• İlk tokenından önce açılan bir akış, yalnızca başka bir model yanıt veremiyorsa (akıllı yönlendirme kapalıysa) x-zurelay-model içerir. Akış açıldıktan sonra oluşan bir hata ise hata durum kodu yerine akış içinde bir hata olayı olarak gelir (hata gövdesiyle aynı yapıda).
• include_usage ile [DONE] öncesindeki son parça, boş bir choices listesi ve usage içerir.

Araç çağırma

Fonksiyonları tools içinde tanımlayın; model birini çağırmak istediğinde metin yerine tool_calls ile yanıt verir. Fonksiyonu çalıştırın, sonucu çağrının kimliğiyle birlikte bir tool mesajı olarak geri gönderin; model devam eder.

import os
from openai import OpenAI
client = OpenAI(
    base_url="https://api.zurelay.com/v1",
    api_key=os.environ["ZURELAY_API_KEY"],
)
response = client.chat.completions.create(
    model="gpt-6-sol",
    messages=[
      {
        "role": "user",
        "content": "What's the weather in Lisbon right now?"
      }
    ],
    tools=[
      {
        "type": "function",
        "function": {
          "name": "get_weather",
          "description": "Current weather for a city",
          "parameters": {
            "type": "object",
            "properties": {
              "city": {
                "type": "string"
              }
            },
            "required": [
              "city"
            ]
          }
        }
      }
    ],
)
print(response.choices[0].message.content)

Yapılandırılmış çıktı

response_format ile JSON isteyin. json_schema, destekleyen modellerin şemanıza uymasını sağlar; json_object ise geçerli herhangi bir JSON ister (bunu isteminizde de belirtin).

import os
from openai import OpenAI
client = OpenAI(
    base_url="https://api.zurelay.com/v1",
    api_key=os.environ["ZURELAY_API_KEY"],
)
response = client.chat.completions.create(
    model="gpt-6.1-sol",
    messages=[
      {
        "role": "user",
        "content": "Extract the people: 'Ana met Ben and Chloe in Porto.'"
      }
    ],
    response_format={
      "type": "json_schema",
      "json_schema": {
        "name": "people",
        "schema": {
          "type": "object",
          "properties": {
            "names": {
              "type": "array",
              "items": {
                "type": "string"
              }
            }
          },
          "required": [
            "names"
          ]
        }
      }
    },
)
print(response.choices[0].message.content)

Akıl yürütme

Akıl yürüten modeller yanıt vermeden önce düşünür. Hız ve maliyet ile derinlik arasındaki dengeyi reasoning_effort ile ayarlayın: daha yüksek seviye, daha uzun düşünür, daha fazla zaman alır ve daha çok çıktı tokenı kullanır. Her model, kendi sağlayıcısının belgelediği seviyeleri destekler: none (düşünme yok) ile başlayıp minimal, low, medium, high ve xhigh (ekstra yüksek) üzerinden max seviyesine uzanır; aşağıdaki tabloda bunlar listelenmiştir. Belirtmezseniz model varsayılan seviyesini kullanır. Tüm OpenAI SDK’larında aynı şekilde çalışır; her seviyeyi kontrol panelindeki Deneme Alanı bölümünde deneyebilirsiniz.

from openai import OpenAI
client = OpenAI(base_url="https://api.zurelay.com/v1", api_key="YOUR_ZURELAY_KEY")
response = client.chat.completions.create(
    model="zurelay-auto",
    reasoning_effort="high",
    messages=[{"role": "user", "content": "How many primes are there below 1,000?"}],
)
message = response.choices[0].message
print(getattr(message, "reasoning_content", None))  # the thinking, when the model shares it
print(message.content)

Düşünme sürecini paylaşan modellerde bu süreç, yanıtla birlikte message.reasoning_content içinde (akış sırasında delta.reasoning_content içinde) döner; bazıları bu alanı reasoning olarak adlandırır. Çıktı tokenı olarak ücretlendirilir ve her zaman completion_tokens kapsamındadır; model ayrıca raporluyorsa completion_tokens_details.reasoning_tokens bunu ayrı sayar. Yüksek çaba seviyesinde yanıtın başlaması dakikalar alabilir; bu nedenle istemcinize yeterince uzun bir zaman aşımı tanıyın (bkz. Güvenilirlik ve zaman aşımları).

Model bazında seviyeler

Her sağlayıcının kendi belgelerine dayanır. Modelin desteklemediği bir seviye, desteklediği en yakın seviyede çalışır (eşit uzaklıktaki iki seviyeden düşük olan seçilir; düşünme ise yalnızca none gönderdiğinizde kapanır). Böylece tek bir istek, akıllı yönlendirme dahil tüm modellerde çalışır. x-zurelay-reasoning-effort yanıt başlığı, hangi seviyenin kullanıldığını belirtir. Seviye olmayan bir kelime, modelin seviyelerini listeleyen bir 400 ile reddedilir.

Claude’un düşünme süreci

Bu uç noktada Claude, diğer modeller gibi reasoning_effort kabul eder: low, medium, high, xhigh veya max (Opus 4.6, xhigh desteklemez). Anthropic’in kendi biçiminde Claude, belirlenen seviyede uyarlamalı olarak düşünür: thinking: { type: "adaptive", display: "summarized" } ile birlikte output_config: { effort: "xhigh" } gönderin ve düşünme bloklarını okuyun. Bkz. Anthropic Messages.