OpenAI の大規模埋め込みモデル
ストレージやトークン単価よりも、適切なパッセージを見つけられるかが重要な検索や RAG 向け。
OpenAI の text-embedding-3-large を、OpenAI が提供しているのと同じ API で。1M トークンあたり $0.13 ではなく $0.065 で使えます。OpenAI の大規模埋め込みモデルを、OpenAI 純正と一致するベクトルで。
text-embedding-3-large更新 from openai import OpenAIclient = OpenAI( base_url="https://api.zurelay.com/v1", api_key="YOUR_ZURELAY_KEY",)response = client.embeddings.create( model="text-embedding-3-large", input=[ "How can I change my password?", "Invoices go out on the first of each month.", ],)for item in response.data: print(item.index, len(item.embedding)) # 3072 eachprint(response.usage.prompt_tokens, "tokens")ベースURL https://api.zurelay.com/v1. OpenAI SDK、LangChain、LlamaIndex、AI SDK のいずれでも動作します。 Embeddings API ドキュメント
料金
プリペイド残高からの従量課金で、サブスクリプションは不要です。$10からチャージできます。失敗したリクエストには課金されません。
| 料金 | Zurelay | OpenAIの定価 | 節約額 |
|---|---|---|---|
入力 1M トークンあたり | $0.065 | 50%割引 | |
出力 1M トークンあたり | $0.00 | — | — |
送信したトークンに対して、OpenAIと同じ方法でカウントして課金されます。1リクエストあたりの最低料金はありません。ベクトルは無料で、次元数を減らしても base64 でも料金は変わりません。失敗したリクエストは無料です。
スライダーで月間使用量を設定してください。
年間$39.00
料金
代表的なワークロードでの Zurelay の実際の価格を、定価と並べて比較できます。
概要
テキスト Embedding 3 Large(text-embedding-3-large)は OpenAI の大規模埋め込みモデルで、検索品質が最も重要な場面に向いています。テキストを 3,072 個の数値からなるベクトルに変換し、意味の近いテキストどうしが近くに配置されるようにします。セマンティック検索、検索(RAG)、クラスタリング、レコメンデーションに使えます。Zurelay は OpenAI の埋め込みエンドポイントで、同じモデル ID、同じリクエスト、同じレスポンスのまま、OpenAI の定価より 50% 安い価格で提供しており、ベクトルも OpenAI 純正と一致します。
テキストをモデル ID text-embedding-3-large とともに POST https://api.zurelay.com/v1/embeddings に送ると、入力ごとに 1 つのベクトルが OpenAI のレスポンス形式で返ります。入力には、文字列、最大 2,048 個の文字列の配列、OpenAI の cl100k_base トークナイザーによるトークン ID の配列、最大 2,048 個のトークン配列からなる配列が使えます。各入力は最大 8,192 トークン、1 リクエストあたり合計 300,000 トークンまでです。
ベクトルの次元数はデフォルトで 3,072 です。dimensions パラメータを使うと、1 から 3,072 までの任意の次元数に短縮できます。text-embedding-3 モデルは短縮したベクトルでも機能するように学習されており、返されるベクトルは再正規化されています。1,024 次元なら、ストレージ使用量は元のベクトルの 3 分の 1 になり、検索も速くなります。encoding_format を base64 に設定すると、各ベクトルはリトルエンディアンの float32 数値を base64 でエンコードした形式で返されるため、データサイズが小さくなり、ダウンロードも速くなります。OpenAI の Python SDK はデフォルトでこの形式をリクエストし、自動でデコードします。
OpenAI の SDK はそのまま使えます。ベース URL を https://api.zurelay.com/v1 に設定し、Zurelay のキーを使って client.embeddings.create を呼び出してください。LangChain の OpenAIEmbeddings、LlamaIndex の OpenAIEmbedding、Vercel AI SDK の OpenAI プロバイダー、そして埋め込み用に OpenAI のベース URL を設定できるアプリも同様に動作します。すべての経路を OpenAI の API と突き合わせて確認しました。同じテキストに対してベクトルは一致し、コサイン類似度は 0.9999 以上です。そのため、OpenAI の API で構築したインデックスは、Zurelay 経由でクエリしてもそのまま動作します。
課金は入力トークンのみで、数え方は OpenAI と同じです。Zurelay では 1M あたり $0.065、OpenAI の $0.13 に対して、リクエストごとの最低額はなく、ベクトルは無料です。埋め込みリクエストには必ず指定したモデルが応答します。異なるモデルのベクトルは比較できないため、Zurelay が別のモデルで応答することはありません。別のモデルに移行する場合は、保存済みのすべてを埋め込み直す必要があります。
強み
ストレージやトークン単価よりも、適切なパッセージを見つけられるかが重要な検索や RAG 向け。
1M トークンあたり $0.065、OpenAI の $0.13 に対して。リクエストごとの最低額はなく、ベクトルは無料です。
同じテキストに対して OpenAI と同じベクトルが返るため、OpenAI の API で構築したインデックスは、Zurelay に移行しても埋め込み直す必要がありません。
1〜3,072 次元の任意の長さを指定できます。短いベクトルは正規化し直されて返り、ストレージを抑えられ、検索も速くなります。
ユースケース
ベクトルのコサイン類似度を使って、文言そのものではなく意味で文書、商品、チケットを検索できます。
質問に最も近いパッセージを取得し、同じ Zurelay のキーでチャットモデルに渡します。
ほぼ重複したレコード、サポートチケット、レビューを、ベクトルの近さでグループ化します。
ユーザーが見たもののベクトルから、似た記事、商品、出品をおすすめします。
始める
ウェイトリストも新しい SDK も不要です。すでに OpenAI の埋め込みを呼び出しているコードはそのまま Zurelay で動作し、保存済みのベクトルもそのまま使えます。
Sign up, add creditとcreate an API key. Set a monthly budget or a rate limit per key if you like.
Change the base URL. The model IDs, the requestとthe vectors stay the same as OpenAI's.
https://api.zurelay.com/v1Call client.embeddings.create, or POST text to /v1/embeddings, one string or up to 2,048 at once,とget a vector for each.
text-embedding-3-large比較
$0.01 per 1M 入力トークン
ほとんどの検索や RAG には、OpenAI の小規模埋め込みモデル Text Embedding 3 Small をどうぞ。1,536 次元で、トークンあたりの価格が大幅に安くなります。
Text Embedding 3 Small API1Mトークンあたり入力$0.025 / 出力$0.125
検索で見つかった内容から回答を書くには、OpenAI の高速で低コストなチャットモデル、GPT-6 Luna を選んでください。
GPT-6 Luna API$0.04 per 1M 入力トークン
テキストを意味で比較するのではなく、確率で分類したりスコアを付けたりするには、GPT-6 Luna Decisions を選んでください。
GPT-6 Luna Decisions APIZurelay の料金は 1M 入力トークンあたり $0.065 で、OpenAI の定価 $0.13 に対して 50% の節約になります。ベクトルは無料で、課金されるのは送信したトークンのみです。数え方は OpenAI と同じで、リクエストごとの最低額はありません。失敗したリクエストには料金がかかりません。
はい。text-embedding-3-large へのリクエストは OpenAI のモデル上で実行され、すべての経路を OpenAI 自身の API と照合して確認しました。同じテキストに対して、ベクトルは OpenAI のものとコサイン類似度 0.9999 以上で一致します。Zurelay は独立したサービスであり、OpenAI と提携しているわけでも、OpenAI から承認を受けているわけでもありません。
はい。OpenAI の text-embedding-3-large で作成したベクトルは、Zurelay 経由で埋め込んだクエリで検索でき、その逆も可能です。別のモデル(text-embedding-3-small など)に移す場合だけ、すべてを埋め込み直す必要があります。異なるモデルのベクトルは比較できないためです。
まずは text-embedding-3-small から始めてください。トークンあたりのコストが大幅に安く、1,536 次元のベクトルはほとんどの検索や RAG に適しています。適切なパッセージを見つけることがストレージや価格より重要な場合に text-embedding-3-large を選んでください。どちらを選ぶにせよ、比較するものにはすべて同じモデルを使ってください。2 つのモデルのベクトルは混在できません。
Create a Zurelay API key, set the base URL to https://api.zurelay.com/v1とcall client.embeddings.create with model set to text-embedding-3-largeとyour text as input. Or POST the same JSON to https://api.zurelay.com/v1/embeddings with your key as a Bearer token. The docs at https://zurelay.com/docs/embeddings have examples in Python, Node.js and cURL.
デフォルトは3,072です。dimensions を1〜3,072の任意の数に設定すると、より短いベクトルにできます。短縮したベクトルでも問題なく動作するようモデルは学習されており、返される際には再正規化されます。1,024次元ならストレージは3分の1で済みます。比較するベクトルはすべて同じ長さにしてください。
はい。LangChain の OpenAIEmbeddings や LlamaIndex の OpenAIEmbedding にモデル ID text-embedding-3-large、Zurelay のベース URL、API キーを渡すか、それらを使って Vercel AI SDK の OpenAI プロバイダーを作成してください。LangChain の Python クラスはデフォルトでトークン ID を送信しますが、Zurelay はこれを受け付けるため、デフォルト設定のままで動作します。
1リクエストあたり最大 2,048 件の入力、各入力は最大 8,192 トークン、リクエスト全体で最大 300,000 トークンです。空文字列は受け付けません。上限を超えたリクエストには、その上限を示す 400 エラーが返り、料金はかかりません。
いいえ、埋め込みでは決してありません。異なるモデルのベクトルは比較できないため、別モデルのベクトルはあなたのインデックスには誤りとなります。text-embedding-3-large がダウンしている場合、リクエストは 503 エラーで失敗します。これは再試行できます。
はい。ダッシュボードの Playground で text-embedding-3-large を選び、テキストをいくつか書いて埋め込んでみてください。各ベクトルの先頭の数値、課金されたトークン数、コスト、すべてのペアのコサイン類似度が表示されます。「コードを取得」では、同じリクエストを Python、Node.js、cURL 用に書き出します。