Beslissingen (Jev)

Stel getypeerde vragen over je data en krijg antwoorden waar je code mee verder kan: de kans op ja, één optie uit een reeks van een plek op een schaal, met gekalibreerde kansen, meestal binnen een seconde. Dit loopt via de eigen API van TypeSafe, dus de SDKs werken ongewijzigd.

Jev is het beslismodel van TypeSafe, dat het een System One-model noemt: het begrijpt natuurlijke taal zoals een chatmodel, maar beantwoordt de vragen die je definieert in plaats van tekst te schrijven. jev-latest, jev-1.14.0 en typesafe/jev-1.14 werken ook als model-ID, en jev-1.13 blijft beschikbaar voor prompts die daarop zijn afgestemd.

Vragen stellen

# pip install typesafe-sdk
from typesafe_sdk import Choice, Noul, Score, TypeSafeClient
with TypeSafeClient(
    base_url="https://api.zurelay.com",
    api_key="YOUR_ZURELAY_KEY",
    model="jev-1.14",
) as client:
    response = client.system_one(
        state={"ticket": "I was charged twice for October, please refund one today."},
        questions={
            "refund": Noul(instructions="Is the customer asking for money back?"),
            "team": Choice(
                instructions="Which team should handle this?",
                criteria={"billing": "Charges and refunds", "technical": "Bugs and outages"},
            ),
            "urgency": Score(
                instructions="How urgent is it?",
                criteria=["can wait", "this week", "today"],
            ),
        },
    )
print(response.nouls["refund"].noul)     # 0.98
print(response.choices["team"].choice)   # billing
print(response.scores["urgency"].score)  # 1.9

Stel bij de SDKs van TypeSafe de basis-URL in op https://api.zurelay.com, zonder /v1: ze voegen zelf /v1/systemone toe. De omgevingsvariabelen TYPESAFE_BASE_URL en TYPESAFE_API_KEY werken ook. Met elke HTTP-client werkt het hetzelfde: stuur je Zurelay-sleutel mee als Bearer-token.

Het antwoord

{
  "id": "req_8Kq2vXbN4tR7mWc1pLs9dYe3",
  "model": "jev-1.14",
  "answers": {
    "refund": { "type": "noul", "noul": 0.98 },
    "team": {
      "type": "choice",
      "choice": "billing",
      "probabilities": { "billing": 1.0, "technical": 0.0 },
      "confidence": 1.0
    },
    "urgency": {
      "type": "score",
      "score": 1.9,
      "legend": { "0": "can wait", "1": "this week", "2": "today" },
      "probabilities": { "0": 0.0, "1": 0.1, "2": 0.9 },
      "confidence": 0.81
    }
  },
  "usage": { "input_tokens": 396, "output_tokens": 61, "cost": 0.00001386 }
}

Elk antwoord komt terug onder de naam die je de vraag hebt gegeven. usage geeft aan waarop het verzoek is gefactureerd en cost wat het in Amerikaanse dollars heeft gekost. Bij hetzelfde verzoek kan het antwoord per aanroep een punt of twee verschillen.

Parameters

Vraagtypen

Je kunt alle drie combineren in één verzoek, en veel vragen stellen kost nauwelijks meer dan één: de status wordt één keer gelezen en alle vragen worden parallel op basis daarvan beantwoord.

Limieten

• Maximaal 64K tokens per verzoek voor de status en alle vragen samen, en 32K voor de status plus de langste vraag.
• Alleen tekst: een string, een JSON-object of een array. Zet afbeeldingen, PDFs of audio eerst om naar tekst.
• Geen streaming: de antwoorden komen in hun geheel terug, meestal binnen een seconde.
• Een ongeldig verzoek (een ontbrekende instructions, een score met één niveau) wordt met een 400 geweigerd voordat het het model bereikt en kost niets. Dat geldt ook voor een verzoek van meer dan 64K tokens, met de code context_length_exceeded.

Betalen voor beslissingen

Jev wordt gefactureerd op basis van de invoertokens die het telt: je status en vragen, plus ongeveer 270 eigen tokens per verzoek. De antwoorden zijn gratis, net als bij TypeSafe. Een kort verzoek van ongeveer 300 tokens kost ongeveer $0.00001, dus een miljoen van zulke verzoeken kost ongeveer $10. Bij elk antwoord geven usage en de header x-zurelay-input-tokens aan waarop het verzoek is gefactureerd, elk verzoek staat in je verzoeklog en mislukte verzoeken kosten niets.

Probeer je eigen inhoud en vragen in de Playground van het dashboard: kies Jev, plak de inhoud, stel ernaast de vragen in en de knop Code ophalen schrijft hetzelfde verzoek in Python, Node.js of cURL.