OpenAI Decisions API

Stel GPT-6 Luna Decisions classificatie- en scorevragen over tekst, afbeeldingen van JSON, en krijg getypeerde antwoorden waar je code mee aan de slag kan: hoe waarschijnlijk een bewering waar is, welke van je waarden past, of waar iets op je schaal valt, telkens met de bijbehorende kansen. Veel vragen in één verzoek, meestal in minder dan een seconde, via OpenAI's eigen Decisions API en SDK's.

GPT-6 Luna Decisions is het decisionmodel van OpenAI. Het leest je input en beantwoordt de vragen die je erover stelt. Het schrijft geen tekst, dus het is geen chatmodel: stuur het naar /v1/decisions, niet naar /v1/chat/completions. Op dit endpoint werkt gpt-6-luna ook als model-ID, zoals in de SDK-documentatie van OpenAI zelf, dus voorbeeldcode van OpenAI draait ongewijzigd. De model in het antwoord zegt gpt-6-luna-decisions. Voor Jev, het decisionmodel van TypeSafe, zie Beslissingen (Jev).

Vragen stellen

# pip install --upgrade openai
import os
from openai import OpenAI
client = OpenAI(
    base_url="https://api.zurelay.com/v1",
    api_key=os.environ["ZURELAY_API_KEY"],
)
decision = client.decisions.create(
    model="gpt-6-luna-decisions",
    input="My headphones stopped charging two days after they arrived. I want a refund.",
    questions=[
        {
            "type": "predicate",
            "name": "refund",
            "instructions": "Is the customer asking for a refund?",
        },
        {
            "type": "choice",
            "name": "topic",
            "instructions": "What is the ticket about?",
            "choices": [
                {"value": "billing", "description": "Charges and invoices"},
                {"value": "hardware", "description": "A device that is broken or faulty"},
                {"value": "shipping", "description": "Delivery and tracking"},
            ],
        },
        {
            "type": "score",
            "name": "sentiment",
            "instructions": "How does the customer feel?",
            "levels": [
                {"label": "very negative"},
                {"label": "negative"},
                {"label": "neutral"},
            ],
        },
    ],
)
# One answer per question, in the order asked
for answer in decision.answers:
    if answer.type == "refusal":
        print(answer.name, "refused")
    elif answer.type == "predicate":
        print(answer.name, answer.probability)
    elif answer.type == "choice":
        print(answer.name, answer.choice, answer.confidence)
    else:
        print(answer.name, answer.score, answer.confidence)
print(decision.usage.input_tokens, "input tokens")

Richt de SDK van OpenAI op https://api.zurelay.com/v1, met /v1 zoals bij elk OpenAI-model op Zurelay, gebruik je Zurelay-sleutel en roep client.decisions.create aan. In Node.js heb je daarvoor openai 7.30.0 of nieuwer nodig; in Python een openai-pakket dat recent genoeg is om client.decisions te hebben (3.41 heeft het). Elke HTTP-client werkt op dezelfde manier: POST de JSON met je sleutel als Bearer-token.

Het antwoord

{
  "id": "req_3Fh8sLq0vW2nTc7yRb5kZp1M",
  "model": "gpt-6-luna-decisions",
  "answers": [
    { "type": "predicate", "name": "refund", "probability": 1 },
    {
      "type": "choice",
      "name": "topic",
      "choice": "hardware",
      "confidence": 1,
      "probabilities": [
        { "value": "billing", "probability": 0 },
        { "value": "hardware", "probability": 1 },
        { "value": "shipping", "probability": 0 }
      ]
    },
    {
      "type": "score",
      "name": "sentiment",
      "score": 0.18,
      "confidence": 0.85,
      "probabilities": [
        { "value": 0, "label": "very negative", "probability": 0.82 },
        { "value": 1, "label": "negative", "probability": 0.18 },
        { "value": 2, "label": "neutral", "probability": 0 }
      ]
    }
  ],
  "usage": {
    "input_tokens": 325,
    "input_tokens_details": { "cached_tokens": 0, "cache_write_tokens": 0 },
    "output_tokens": 0,
    "output_tokens_details": { "reasoning_tokens": 0 },
    "total_tokens": 325,
    "cost": 0.000013
  }
}

answers bevat één antwoord per vraag, in de volgorde waarin je ze stelde, elk met zijn type en, als je die opgaf, zijn name. usage is waarop het verzoek is afgerekend: input_tokens, waarbij output_tokens altijd 0 is, en cost wat het kostte in Amerikaanse dollars. De x-request-id-header van het antwoord helpt je het verzoek terug te vinden in je requestlog, en x-zurelay-input-tokens herhaalt waarop er is afgerekend.

Parameters

Vraagtypen

Eén verzoek kan alle drie combineren. De invoer wordt voor alle vragen samen één keer gelezen, dus meerdere vragen in één verzoek kosten minder dan elke vraag in een eigen verzoek.

Predicaat

Een bewering of ja/nee-vraag over de invoer. De probability van het antwoord geeft aan hoe waarschijnlijk het is dat die waar is: dicht bij 1 voor ja, dicht bij 0 voor nee, en ertussenin als de invoer het niet duidelijk zegt.

{ "type": "predicate", "name": "refund", "instructions": "Is the customer asking for a refund?" }
{ "type": "predicate", "name": "refund", "probability": 1 }

Keuze

Kiest een van de waarden die je opgeeft en geeft de kans van elke waarde. Een beschrijving legt uit wat een waarde betekent, handig als de waarde zelf een code is. Waarden kunnen ook true en false zijn, en de tekst "true" en de boolean true zijn verschillende waarden.

{
  "type": "choice",
  "name": "language",
  "instructions": "Which language is the message written in?",
  "choices": [
    { "value": "en", "description": "English" },
    { "value": "es", "description": "Spanish" },
    { "value": "other", "description": "Any other language" }
  ]
}

Score

Plaatst de invoer op je niveaus, laagste eerst. score is het verwachte niveau: de index van elk niveau, geteld vanaf 0, gewogen naar zijn kans. Het kan dus tussen twee niveaus uitkomen: in het voorbeeldantwoord hierboven is 0.18 vooral het eerste niveau met een beetje van het tweede. Elk item in probabilities heeft de index van het niveau als value en de bijbehorende label.

{
  "type": "score",
  "name": "relevance",
  "instructions": "How well does the passage answer the search query?",
  "levels": [
    { "label": "irrelevant" },
    { "label": "related", "description": "On the topic, but doesn't answer it" },
    { "label": "answers it" }
  ]
}

Afbeeldingen

Stuur afbeeldingen mee in de invoer, als onderdelen van een gebruikersbericht naast eventuele tekst. Geef een base64 data-URL of een openbare https-link op, die Zurelay downloadt en doorstuurt: PNG, JPEG, WebP of GIF. Stuur grote afbeeldingen als link.

import base64, os
from openai import OpenAI
client = OpenAI(base_url="https://api.zurelay.com/v1", api_key=os.environ["ZURELAY_API_KEY"])
with open("return-photo.jpg", "rb") as file:
    photo = "data:image/jpeg;base64," + base64.b64encode(file.read()).decode()
decision = client.decisions.create(
    model="gpt-6-luna-decisions",
    input=[
        {
            "role": "user",
            "content": [
                {"type": "input_text", "text": "Photo sent with a return request for a blender."},
                {"type": "input_image", "image_url": photo, "detail": "low"},
            ],
        }
    ],
    questions=[
        {
            "type": "predicate",
            "name": "damaged",
            "instructions": "Does the photo show visible damage to the product?",
        },
        {
            "type": "choice",
            "name": "product",
            "instructions": "What product is in the photo?",
            "choices": [
                {"value": "blender"},
                {"value": "kettle"},
                {"value": "other", "description": "Anything else, or no product"},
            ],
        },
    ],
)
print(decision.answers)

Een afbeelding voegt tokens toe op basis van de grootte en detail: een afbeelding van 1200 × 630 is ongeveer 750 tokens bij high of auto, en ongeveer 150 bij low. Gebruik low als de vraag over de hele afbeelding gaat en niet over kleine lettertjes. Afbeeldingen kunnen alleen in de invoer: de instructies van een vraag accepteren alleen tekst.

JSON-invoer

Gestructureerde data kun je zoals ze zijn meesturen, in een input_json-onderdeel naast tekst of afbeeldingen. Het model leest het als compacte JSON-tekst en het wordt ook als die tekst in rekening gebracht.

"input": [
  {
    "role": "user",
    "content": [
      { "type": "input_text", "text": "A sign-up from our app:" },
      {
        "type": "input_json",
        "data": { "name": "Free Gift Card Giveaway", "email": "win-now@example.net", "bio": "Click my link" }
      }
    ]
  }
]

Weigeringen

Elke vraag kan als weigering terugkomen in plaats van als antwoord, terwijl de andere vragen in het verzoek wel gewoon worden beantwoord. Controleer de type van elk antwoord voordat je de velden uitleest. In onze tests werd de invoer “Refund requested 38 hours ago.” met het predicaat “Page on-call?” geweigerd.

{ "type": "refusal", "name": "page_on_call" }

Een weigering komt binnen in een gewoon antwoord, waarvan usage aangeeft op welke basis het verzoek is gefactureerd. Stel de vraag opnieuw met een duidelijkere formulering, of leg het geval voor aan een persoon.

Limieten

• Maximaal 1.05M tokens per verzoek: de invoer en alle vragen samen. Een invoer van 918K tokens werkte in onze tests.
• 1 tot 64 vragen. Een choice accepteert 2 tot 255 unieke waarden en een score 2 tot 10 niveaus.
• Alleen gebruikersberichten: system-, developer- en assistant-berichten en function- of tool-call-items worden geweigerd. Zet context in een gebruikersbericht of in de instructies van een vraag.
• Geen streaming: stream wordt geweigerd en de antwoorden komen altijd in één keer terug.
• Een onjuist opgebouwd verzoek, of een verzoek met een veld dat de API niet accepteert, wordt geweigerd met een 400 die het veld noemt (zoals questions[2].choices) voordat het het model bereikt, en kost niets.
• Een key die beperkt is tot bepaalde modellen heeft gpt-6-luna-decisions nodig op de lijst, ook voor verzoeken met gpt-6-luna. Zie Key-limieten en regels.

Snelheid

In onze tests komen antwoorden meestal binnen 0,3 tot 1 seconde terug, en met een afbeelding in ongeveer een seconde. Een invoer van 900K tokens duurde ongeveer 10 seconden.

Betalen voor beslissingen

GPT-6 Luna Decisions kost $0.04 per 1M invoertokens, en de antwoorden zijn gratis. De tokens zijn je invoer, één keer geteld, plus ongeveer 110 tot 160 eigen tokens van het model per vraag: één kort predicaat over een korte tekst is samen ongeveer 160 tokens, twee ongeveer 320, en een invoer van 2.600 tokens met vier vragen ongeveer 3.200. Afbeeldingen komen er met hun tokens bij, zoals hierboven. Een check met één vraag over een korte tekst kost dus ongeveer $0.0000064, en een miljoen van die checks ongeveer $6.40.

De headers usage en x-zurelay-input-tokens bij elk antwoord laten zien waarop er is gefactureerd, elk verzoek staat in je verzoeklog, en mislukte verzoeken kosten niets.

Fouten

Keys, tegoed, budgetten en rate limits geven dezelfde fouten als elk ander endpoint: zie Fouten. De SDKs van OpenAI proberen de fouten opnieuw waarbij dat zinvol is.