GPT-6 Luna Decisions API

Zurelay menagih $0.04 per 1M token input, dibandingkan harga resmi OpenAI sebesar $0.10, sehingga Anda hemat 60%. Output gratis, seperti di OpenAI. Model menghitung input Anda satu kali ditambah sekitar 110 hingga 160 token miliknya sendiri untuk setiap pertanyaan: pemeriksaan satu pertanyaan pada teks pendek sekitar 160 token, dua pertanyaan sekitar 320, dan input 2.600 token dengan empat pertanyaan sekitar 3.200. Permintaan yang gagal tidak dikenai biaya.

API dari OpenAI untuk menjawab pertanyaan klasifikasi atau penilaian tentang suatu input, dengan banyak pertanyaan dalam satu permintaan. Alih-alih menulis teks, model mengembalikan jawaban bertipe untuk setiap pertanyaan: probabilitas untuk sebuah predikat, salah satu nilai dari Anda beserta probabilitasnya untuk sebuah pilihan, atau posisi pada skala Anda beserta probabilitasnya untuk sebuah skor. GPT-6 Luna Decisions adalah model yang menjawabnya.

Create a Zurelay API key, set the OpenAI SDK's base URL to https://api.zurelay.com/v1 dan call client.decisions.create with model set to gpt-6-luna-decisions, an input dan a list of questions. In Node.js that needs openai 7.30.0 or later. Or POST the same JSON to https://api.zurelay.com/v1/decisions with your key as a Bearer token. The docs at https://zurelay.com/docs/openai-decisions have examples in Python, Node.js and cURL.

Ya. Pada /v1/decisions, ID model gpt-6-luna berfungsi sama seperti gpt-6-luna-decisions, sehingga kode yang ditulis berdasarkan dokumentasi SDK OpenAI, yang menyebut gpt-6-luna, akan berjalan setelah Anda mengganti base URL dan kunci. Kolom model pada balasan berisi gpt-6-luna-decisions. Pada endpoint chat, gpt-6-luna tetap GPT-6 Luna, yaitu model chat.

Predicate menanyakan seberapa besar kemungkinan sebuah pernyataan tentang input itu benar dan mengembalikan probabilitas dari 0 sampai 1, misalnya 1 untuk permintaan pengembalian dana yang jelas. Choice memilih satu dari 2 hingga 255 nilai yang Anda daftarkan, seperti billing, hardware, atau shipping, lalu mengembalikan nilai tersebut, tingkat keyakinan, dan probabilitas setiap nilai. Score menempatkan input pada 2 hingga 10 tingkat yang Anda daftarkan, dari yang terendah, seperti sangat negatif, negatif, dan netral, lalu mengembalikan tingkat yang diharapkan sebagai indeks mulai dari 0, misalnya 0,18 untuk hampir seluruhnya tingkat pertama. Satu permintaan dapat memadukan ketiganya.

Ya. Sertakan gambar dalam input sebagai bagian input_image dari pesan user, berupa data URL base64 atau tautan https publik, dalam format PNG, JPEG, WebP, atau GIF, dengan detail diatur ke low, high, auto, atau original. Gambar 1200 kali 630 menambah sekitar 750 token pada high atau auto dan sekitar 150 pada low. Data terstruktur dimasukkan sebagai bagian input_json. Model ini tidak membaca PDF, audio, atau video.

Pertanyaan apa pun dapat dikembalikan sebagai {"type": "refusal"} alih-alih jawaban, sementara pertanyaan lain dalam permintaan tetap dijawab. Dalam pengujian kami, input "Refund requested 38 hours ago." dengan predikat "Page on-call?" dikembalikan sebagai ditolak. Periksa type pada setiap jawaban sebelum Anda membacanya, lalu tanyakan lagi dengan lebih jelas atau serahkan kasusnya kepada manusia.

Hingga 1.050.000 token, yaitu input dan semua pertanyaan digabung: input 918K token berhasil dalam pengujian kami. Satu permintaan menerima 1 hingga 64 pertanyaan, sebuah choice 2 hingga 255 nilai unik, dan sebuah score 2 hingga 10 tingkat. Zurelay memeriksa permintaan sebelum sampai ke model, sehingga permintaan yang salah format ditolak dengan pesan galat yang jelas dan tidak dikenai biaya.

Dalam pengujian kami, jawaban kembali dalam 0,3 hingga 1 detik, sekitar satu detik jika ada gambar, dan input sekitar 900K token memakan waktu sekitar 10 detik. Jawaban dikirim sekaligus utuh: API ini tidak mendukung streaming.

Pesan system, developer, dan assistant, item pemanggilan fungsi dan alat, streaming, serta gambar di dalam instruksi sebuah pertanyaan: semuanya ditolak dengan 400 yang menjelaskan alasannya. Letakkan konteks dalam pesan user atau dalam instruksi sebuah pertanyaan. prompt_cache_key dan prompt_cache_options diterima tetapi diabaikan: caching berjalan otomatis, dan setiap token input berharga sama.

Ya. Permintaan ke gpt-6-luna-decisions dijalankan di GPT-6 Luna Decisions milik OpenAI, dan Zurelay tidak mengganti dengan model lain atau model chat yang diminta berperilaku seperti model ini. Zurelay adalah layanan independen dan tidak berafiliasi dengan maupun didukung oleh OpenAI.