Keputusan (Jev)

Ajukan pertanyaan bertipe tentang data Anda dan dapatkan jawaban yang bisa langsung diproses oleh kode: probabilitas jawaban ya, satu opsi dari sekumpulan pilihan, atau posisi pada skala, dengan probabilitas terkalibrasi, biasanya dalam waktu kurang dari satu detik. Menggunakan API milik TypeSafe, sehingga SDK-nya bisa digunakan tanpa perubahan.

Jev adalah model pengambilan keputusan dari TypeSafe, yang disebutnya model System One: model ini memahami bahasa alami seperti model chat, tetapi alih-alih menulis teks, model ini menjawab pertanyaan yang Anda tentukan. jev-latest, jev-1.14.0 dan typesafe/jev-1.14 juga bisa digunakan sebagai ID model, dan jev-1.13 tetap tersedia untuk prompt yang telah disesuaikan untuknya.

Ajukan pertanyaan

# pip install typesafe-sdk
from typesafe_sdk import Choice, Noul, Score, TypeSafeClient
with TypeSafeClient(
    base_url="https://api.zurelay.com",
    api_key="YOUR_ZURELAY_KEY",
    model="jev-1.14",
) as client:
    response = client.system_one(
        state={"ticket": "I was charged twice for October, please refund one today."},
        questions={
            "refund": Noul(instructions="Is the customer asking for money back?"),
            "team": Choice(
                instructions="Which team should handle this?",
                criteria={"billing": "Charges and refunds", "technical": "Bugs and outages"},
            ),
            "urgency": Score(
                instructions="How urgent is it?",
                criteria=["can wait", "this week", "today"],
            ),
        },
    )
print(response.nouls["refund"].noul)     # 0.98
print(response.choices["team"].choice)   # billing
print(response.scores["urgency"].score)  # 1.9

Dengan SDK TypeSafe, atur URL dasar ke https://api.zurelay.com, tanpa /v1: SDK akan menambahkan /v1/systemone sendiri. Variabel lingkungan TYPESAFE_BASE_URL dan TYPESAFE_API_KEY juga bisa digunakan. Klien HTTP apa pun bekerja dengan cara yang sama: kirim kunci Zurelay Anda sebagai token Bearer.

Jawaban

{
  "id": "req_8Kq2vXbN4tR7mWc1pLs9dYe3",
  "model": "jev-1.14",
  "answers": {
    "refund": { "type": "noul", "noul": 0.98 },
    "team": {
      "type": "choice",
      "choice": "billing",
      "probabilities": { "billing": 1.0, "technical": 0.0 },
      "confidence": 1.0
    },
    "urgency": {
      "type": "score",
      "score": 1.9,
      "legend": { "0": "can wait", "1": "this week", "2": "today" },
      "probabilities": { "0": 0.0, "1": 0.1, "2": 0.9 },
      "confidence": 0.81
    }
  },
  "usage": { "input_tokens": 396, "output_tokens": 61, "cost": 0.00001386 }
}

Setiap jawaban dikembalikan dengan nama yang Anda berikan pada pertanyaannya. usage adalah dasar perhitungan biaya permintaan, dan cost adalah biayanya dalam dolar AS. Permintaan yang sama bisa menghasilkan jawaban yang berbeda satu atau dua poin pada tiap pemanggilan.

Parameter

Jenis pertanyaan

Satu permintaan bisa menggabungkan ketiganya, dan biaya mengajukan banyak pertanyaan hanya sedikit lebih tinggi daripada satu pertanyaan: state dibaca sekali, lalu semua pertanyaan dijawab secara paralel berdasarkan state tersebut.

Batas

• Maksimal 64K tokens per permintaan untuk gabungan state dan semua pertanyaan, serta 32K untuk state ditambah pertanyaan terpanjang.
• Hanya teks: string, objek JSON, atau array. Ubah gambar, PDF, atau audio menjadi teks terlebih dahulu.
• Tanpa streaming: jawaban dikirim utuh, biasanya dalam waktu kurang dari satu detik.
• Permintaan yang formatnya tidak valid (tidak ada instructions, skor dengan satu tingkat) ditolak dengan 400 sebelum sampai ke model, tanpa biaya. Begitu juga permintaan yang melebihi 64K tokens, dengan kode context_length_exceeded.

Biaya pengambilan keputusan

Biaya Jev dihitung berdasarkan tokens input yang dihitungnya: state dan pertanyaan Anda, ditambah sekitar 270 tokens bawaannya di setiap permintaan. Jawabannya gratis, seperti di TypeSafe. Permintaan singkat sekitar 300 tokens biayanya sekitar $0.00001, jadi satu juta permintaan biayanya sekitar $10. usage dan header x-zurelay-input-tokens pada setiap respons menunjukkan dasar perhitungan biayanya, setiap permintaan tercatat di log permintaan Anda, dan permintaan yang gagal tidak dikenai biaya.

Coba konten dan pertanyaan Anda sendiri di Playground pada dasbor: pilih Jev, tempel konten, lalu atur pertanyaan di sebelahnya. Tombol Dapatkan kode akan membuat permintaan yang sama dalam Python, Node.js, atau cURL.