OpenAI
Beroperasi· diperiksa setiap beberapa menit

Text Embedding 3 Large API

text-embedding-3-large dari OpenAI di API yang sama dengan yang dipakai OpenAI untuk menyajikannya, seharga $0.065 per 1M token, bukan $0.13: model embedding yang lebih besar, dengan vektor yang sama dengan milik OpenAI.

Harga per 1M token input50%lebih murah
Input
$0.065$0.13
Output
$0.00
ID modeltext-embedding-3-largeDiperbarui
embed.py
from openai import OpenAI
client = OpenAI(
base_url="https://api.zurelay.com/v1",
api_key="YOUR_ZURELAY_KEY",
)
response = client.embeddings.create(
model="text-embedding-3-large",
input=[
"How can I change my password?",
"Invoices go out on the first of each month.",
],
)
for item in response.data:
print(item.index, len(item.embedding)) # 3072 each
print(response.usage.prompt_tokens, "tokens")

URL dasar https://api.zurelay.com/v1. Berfungsi dengan OpenAI SDK mana pun, LangChain, LlamaIndex, dan AI SDK. Dokumentasi API embeddings

Dimensi
3,072, atau kurang
Per input
Maksimal 8,192 tokens
Per permintaan
2,048 input, 300K token
Output
Vektor, gratis
Dirilis
25 Jan 2024
Status
Beroperasi

Harga

Harga API Text Embedding 3 Large. Jauh di bawah harga resmi.

Bayar sesuai pemakaian dari saldo prabayar, tanpa langganan. Isi saldo mulai $10. Permintaan yang gagal tidak pernah dikenakan biaya.

TarifZurelayHarga resmi OpenAI
Input
per 1M tokens
$0.065$0.13
Output
per 1M tokens
$0.00—

Ditagih berdasarkan token yang Anda kirim, dihitung dengan cara OpenAI, tanpa minimum per permintaan. Vektornya gratis, dan dimensi yang lebih pendek atau base64 harganya sama. Permintaan yang gagal tidak dikenai biaya.

Kalkulator penghematan

Geser slider sesuai pemakaian bulanan Anda.

Token input per bulan50M
Zurelay
$3.25
Harga resmi OpenAI
$6.50
Penghematan Anda per bulan$3.25

$39.00 per tahun

Biaya

Biaya API Text Embedding 3 Large, sudah dihitung.

Beban kerja tipikal dengan harga live Zurelay, bersanding dengan harga daftar.

    Ringkasan

    Apa itu Text Embedding 3 Large?

    Teks Embedding 3 Large (text-embedding-3-large) adalah model embedding yang lebih besar dari OpenAI, untuk saat kualitas retrieval paling penting. Model ini mengubah teks menjadi vektor berisi 3,072 angka, ditata sehingga teks dengan makna serupa berdekatan, untuk semantic search, retrieval (RAG), clustering, dan rekomendasi. Zurelay menyajikannya di endpoint embeddings OpenAI dengan ID model, permintaan, dan respons yang sama, dengan harga 50% di bawah harga daftar OpenAI, dan vektornya sama dengan milik OpenAI.

    Kirim teks ke POST https://api.zurelay.com/v1/embeddings dengan ID model text-embedding-3-large dan Anda mendapat satu vektor per input, dalam bentuk respons OpenAI. Input bisa berupa string, array hingga 2,048 string, array token ID dari tokenizer cl100k_base OpenAI, atau array hingga 2,048 array token. Setiap input bisa mencapai 8,192 token, dan satu permintaan hingga 300,000 token total.

    Vektor memiliki 3,072 dimensi secara default. Parameter dimensions memperpendeknya ke panjang berapa pun dari 1 hingga 3,072: model text-embedding-3 dilatih agar vektor yang dipersingkat tetap berfungsi, dan hasilnya dikembalikan dalam keadaan dinormalisasi ulang. Pada 1,024 dimensi, sebuah vektor memakai sepertiga penyimpanan vektor penuh dan pencarian lebih cepat. Dengan encoding_format diatur ke base64, setiap vektor kembali sebagai angka float32 little-endian berenkode base64, lebih kecil dan lebih cepat diunduh; SDK Python OpenAI memintanya secara default dan mendekodenya untuk Anda.

    SDK OpenAI berfungsi apa adanya: set base URL ke https://api.zurelay.com/v1, pakai kunci Zurelay Anda, lalu panggil client.embeddings.create. Begitu juga OpenAIEmbeddings dari LangChain, OpenAIEmbedding dari LlamaIndex, provider OpenAI di Vercel AI SDK, dan aplikasi yang memungkinkan Anda mengatur base URL OpenAI untuk embeddings. Kami menguji setiap rute terhadap API OpenAI sendiri: untuk teks yang sama, vektornya cocok, dengan cosine similarity 0.9999 atau lebih, sehingga indeks yang dibangun dengan API OpenAI tetap berfungsi saat Anda melakukan query melalui Zurelay.

    Ditagih hanya untuk token input, dihitung seperti cara OpenAI menghitungnya: $0.065 per 1M di Zurelay dibandingkan $0.13 OpenAI, tanpa minimum per permintaan, dan vektornya gratis. Permintaan embeddings selalu dijawab oleh model yang Anda sebutkan: vektor dari model berbeda tidak bisa dibandingkan, jadi Zurelay tidak pernah menjawab dengan model lain, dan pindah ke model lain berarti Anda harus melakukan embedding ulang atas semua yang sudah Anda simpan.

    Keunggulan

    Keunggulan Text Embedding 3 Large. Dan apa yang dibangun tim dengannya.

    01

    Model embedding yang lebih besar dari OpenAI

    Untuk pencarian dan RAG di mana menemukan bagian yang tepat lebih penting daripada penyimpanan atau harga per token.

    02

    Setengah harga OpenAI

    $0.065 per 1M token dibandingkan $0.13 OpenAI, tanpa minimum per permintaan, dan vektornya gratis.

    03

    Indeks Anda tetap berfungsi

    Vektornya sama dengan milik OpenAI untuk teks yang sama, jadi indeks yang Anda bangun dengan API OpenAI tidak perlu embedding ulang untuk pindah ke Zurelay.

    04

    Sesuaikan dengan indeks Anda

    Minta berapa pun dimensi dari 1 hingga 3,072: vektor yang lebih pendek kembali dalam keadaan dinormalisasi ulang, memakan lebih sedikit penyimpanan, dan pencarian lebih cepat.

    Contoh penggunaan

    • Pencarian semantik

      Temukan dokumen, produk, atau tiket berdasarkan maknanya, bukan kata persisnya, lewat kemiripan kosinus vektornya.

    • Retrieval untuk chatbot (RAG)

      Ambil bagian teks yang paling dekat dengan pertanyaan dan berikan ke model chat dengan key Zurelay yang sama.

    • Deduplikasi dan klasterisasi

      Kelompokkan catatan, tiket dukungan, atau ulasan yang hampir kembar berdasarkan kedekatan vektornya.

    • Rekomendasi

      Sarankan artikel, produk, atau listing serupa dari vektor yang pernah dilihat pengguna.

    Mulai

    Panggil Text Embedding 3 Large dalam tiga langkah.

    Tanpa waitlist dan tanpa SDK baru. Kalau kode Anda sudah memanggil embeddings OpenAI, kode itu berjalan dengan Zurelay, begitu juga vektor yang sudah Anda simpan.

    1. 1

      Buat kunci

      Sign up, add credit dan create an API key. Set a monthly budget or a rate limit per key if you like.

    2. 2

      Point your SDK untuk Zurelay

      Change the base URL. The model IDs, the request dan the vectors stay the same as OpenAI's.

      https://api.zurelay.com/v1
    3. 3

      Use text-embedding-3-large

      Call client.embeddings.create, or POST text to /v1/embeddings, one string or up to 2,048 at once, dan get a vector for each.

      text-embedding-3-large

    Tanya jawab

    Pertanyaan seputar API Text Embedding 3 Large.

    Ada pertanyaan lain? Tanyakan kepada tim kami dan kami akan menjawab lewat email.

    Berapa biaya API text-embedding-3-large?

    Zurelay menagih $0.065 per 1M token input, dibandingkan harga daftar OpenAI $0.13, jadi Anda hemat 50%. Vektornya gratis: Anda hanya membayar token yang Anda kirim, dihitung seperti cara OpenAI menghitungnya, tanpa minimum per permintaan. Permintaan yang gagal tidak dikenai biaya.

    Apakah sama dengan text-embedding-3-large milik OpenAI?

    Ya. Permintaan ke text-embedding-3-large dijalankan pada model OpenAI, dan kami memeriksa setiap rute terhadap API OpenAI sendiri: untuk teks yang sama, vektornya sama dengan milik OpenAI dengan cosine similarity 0.9999 atau lebih. Zurelay adalah layanan independen dan tidak berafiliasi dengan atau didukung oleh OpenAI.

    Apakah vektor yang sudah saya punya tetap berfungsi?

    Ya. Vektor yang Anda buat dengan text-embedding-3-large milik OpenAI bisa dicari dengan query yang di-embed melalui Zurelay, dan sebaliknya. Hanya pindah ke model lain, seperti text-embedding-3-small, yang berarti meng-embed ulang semuanya: vektor dari model berbeda tidak bisa dibandingkan.

    Sebaiknya saya pakai text-embedding-3-large atau text-embedding-3-small?

    Mulai dari text-embedding-3-small: harganya jauh lebih murah per token, dan vektor 1,536 dimensinya cocok untuk sebagian besar pencarian dan RAG. Pilih text-embedding-3-large saat menemukan bagian yang tepat lebih penting daripada penyimpanan dan harga. Apa pun pilihan Anda, gunakan model itu untuk semua yang Anda bandingkan, karena vektor dari keduanya tidak bisa dicampur.

    Bagaimana cara memanggil text-embedding-3-large dengan SDK OpenAI?

    Create a Zurelay API key, set the base URL to https://api.zurelay.com/v1 dan call client.embeddings.create with model set to text-embedding-3-large dan your text as input. Or POST the same JSON to https://api.zurelay.com/v1/embeddings with your key as a Bearer token. The docs at https://zurelay.com/docs/embeddings have examples in Python, Node.js and cURL.

    Berapa dimensi text-embedding-3-large?

    3,072 secara default. Atur dimensions ke angka berapa pun dari 1 hingga 3,072 untuk vektor yang lebih pendek: model dilatih agar vektor yang dipersingkat tetap berfungsi, dan hasilnya dikembalikan dalam keadaan dinormalisasi ulang. 1,024 dimensi memakan sepertiga penyimpanan. Gunakan panjang yang sama untuk setiap vektor yang Anda bandingkan.

    Apakah berfungsi dengan LangChain, LlamaIndex, dan AI SDK?

    Ya. Berikan ID model text-embedding-3-large, base URL Zurelay, dan key Anda ke OpenAIEmbeddings dari LangChain atau OpenAIEmbedding dari LlamaIndex, atau buat provider OpenAI dari Vercel AI SDK dengan itu. Kelas Python LangChain mengirim token ID secara default, yang diterima Zurelay, jadi pengaturan defaultnya sudah berfungsi.

    Apa saja batasannya?

    Hingga 2,048 input per permintaan, hingga 8,192 token di masing-masing input, dan hingga 300,000 token untuk keseluruhan permintaan. String kosong tidak diterima. Permintaan yang melewati batas mendapat error 400 yang menyebutkan batasnya, dan tidak dikenai biaya.

    Bisakah smart routing menjawab dengan model lain?

    Tidak, tidak pernah untuk embeddings. Vektor dari model berbeda tidak bisa dibandingkan, jadi vektor model lain akan salah untuk indeks Anda. Jika text-embedding-3-large tidak tersedia, permintaan gagal dengan error 503 yang bisa Anda coba ulang.

    Bisakah saya mencobanya di Playground?

    Ya. Di Playground pada dasbor, pilih text-embedding-3-large, tulis beberapa teks lalu embed: Anda melihat angka pertama tiap vektor, token yang ditagih, biayanya, dan cosine similarity setiap pasangan. Dapatkan kode menuliskan permintaan yang sama untuk Python, Node.js, atau cURL.

    Model lainnya di Zurelay

    Semua model

    Tak perlu lagi bayar harga resmi.
    Mulai berhemat hari ini.

    Buat kunci API dalam hitungan detik, arahkan SDK yang sudah Anda gunakan ke Zurelay, dan setiap permintaan jadi hingga 90% lebih murah sejak token pertama.