OpenAI
稼働中· 数分ごとに確認

Text Embedding 3 Large API

OpenAI の text-embedding-3-large を、OpenAI が提供しているのと同じ API で。1M トークンあたり $0.13 ではなく $0.065 で使えます。OpenAI の大規模埋め込みモデルを、OpenAI 純正と一致するベクトルで。

入力1Mトークンあたりの料金50%割引
入力
$0.065$0.13
出力
$0.00
モデルIDtext-embedding-3-large更新
embed.py
from openai import OpenAI
client = OpenAI(
base_url="https://api.zurelay.com/v1",
api_key="YOUR_ZURELAY_KEY",
)
response = client.embeddings.create(
model="text-embedding-3-large",
input=[
"How can I change my password?",
"Invoices go out on the first of each month.",
],
)
for item in response.data:
print(item.index, len(item.embedding)) # 3072 each
print(response.usage.prompt_tokens, "tokens")

ベースURL https://api.zurelay.com/v1. OpenAI SDK、LangChain、LlamaIndex、AI SDK のいずれでも動作します。 Embeddings API ドキュメント

次元数
3,072以下
入力あたり
最大 8,192 tokens
リクエストごと
2,048件の入力、300Kトークン
出力
ベクトルは無料
リリース日
2024年1月25日
ステータス
稼働中

料金

テキスト Embedding 3 LargeのAPI料金。 定価より大幅にお得です。

プリペイド残高からの従量課金で、サブスクリプションは不要です。$10からチャージできます。失敗したリクエストには課金されません。

料金ZurelayOpenAIの定価
入力
1M トークンあたり
$0.065$0.13
出力
1M トークンあたり
$0.00—

送信したトークンに対して、OpenAIと同じ方法でカウントして課金されます。1リクエストあたりの最低料金はありません。ベクトルは無料で、次元数を減らしても base64 でも料金は変わりません。失敗したリクエストは無料です。

節約額の計算

スライダーで月間使用量を設定してください。

月間入力トークン数50M
Zurelay
$3.25
OpenAIの定価
$6.50
毎月の節約額$3.25

年間$39.00

料金

テキスト Embedding 3 Large の API コスト、計算しました。

代表的なワークロードでの Zurelay の実際の価格を、定価と並べて比較できます。

    概要

    テキスト Embedding 3 Largeとは?

    テキスト Embedding 3 Large(text-embedding-3-large)は OpenAI の大規模埋め込みモデルで、検索品質が最も重要な場面に向いています。テキストを 3,072 個の数値からなるベクトルに変換し、意味の近いテキストどうしが近くに配置されるようにします。セマンティック検索、検索(RAG)、クラスタリング、レコメンデーションに使えます。Zurelay は OpenAI の埋め込みエンドポイントで、同じモデル ID、同じリクエスト、同じレスポンスのまま、OpenAI の定価より 50% 安い価格で提供しており、ベクトルも OpenAI 純正と一致します。

    テキストをモデル ID text-embedding-3-large とともに POST https://api.zurelay.com/v1/embeddings に送ると、入力ごとに 1 つのベクトルが OpenAI のレスポンス形式で返ります。入力には、文字列、最大 2,048 個の文字列の配列、OpenAI の cl100k_base トークナイザーによるトークン ID の配列、最大 2,048 個のトークン配列からなる配列が使えます。各入力は最大 8,192 トークン、1 リクエストあたり合計 300,000 トークンまでです。

    ベクトルの次元数はデフォルトで 3,072 です。dimensions パラメータを使うと、1 から 3,072 までの任意の次元数に短縮できます。text-embedding-3 モデルは短縮したベクトルでも機能するように学習されており、返されるベクトルは再正規化されています。1,024 次元なら、ストレージ使用量は元のベクトルの 3 分の 1 になり、検索も速くなります。encoding_format を base64 に設定すると、各ベクトルはリトルエンディアンの float32 数値を base64 でエンコードした形式で返されるため、データサイズが小さくなり、ダウンロードも速くなります。OpenAI の Python SDK はデフォルトでこの形式をリクエストし、自動でデコードします。

    OpenAI の SDK はそのまま使えます。ベース URL を https://api.zurelay.com/v1 に設定し、Zurelay のキーを使って client.embeddings.create を呼び出してください。LangChain の OpenAIEmbeddings、LlamaIndex の OpenAIEmbedding、Vercel AI SDK の OpenAI プロバイダー、そして埋め込み用に OpenAI のベース URL を設定できるアプリも同様に動作します。すべての経路を OpenAI の API と突き合わせて確認しました。同じテキストに対してベクトルは一致し、コサイン類似度は 0.9999 以上です。そのため、OpenAI の API で構築したインデックスは、Zurelay 経由でクエリしてもそのまま動作します。

    課金は入力トークンのみで、数え方は OpenAI と同じです。Zurelay では 1M あたり $0.065、OpenAI の $0.13 に対して、リクエストごとの最低額はなく、ベクトルは無料です。埋め込みリクエストには必ず指定したモデルが応答します。異なるモデルのベクトルは比較できないため、Zurelay が別のモデルで応答することはありません。別のモデルに移行する場合は、保存済みのすべてを埋め込み直す必要があります。

    強み

    テキスト Embedding 3 Largeが得意なこと。 チームでの活用例も紹介します。

    01

    OpenAI の大規模埋め込みモデル

    ストレージやトークン単価よりも、適切なパッセージを見つけられるかが重要な検索や RAG 向け。

    02

    OpenAI の半額

    1M トークンあたり $0.065、OpenAI の $0.13 に対して。リクエストごとの最低額はなく、ベクトルは無料です。

    03

    既存のインデックスがそのまま使える

    同じテキストに対して OpenAI と同じベクトルが返るため、OpenAI の API で構築したインデックスは、Zurelay に移行しても埋め込み直す必要がありません。

    04

    インデックスに合わせてサイズを調整

    1〜3,072 次元の任意の長さを指定できます。短いベクトルは正規化し直されて返り、ストレージを抑えられ、検索も速くなります。

    ユースケース

    • セマンティック検索

      ベクトルのコサイン類似度を使って、文言そのものではなく意味で文書、商品、チケットを検索できます。

    • チャットボット向けの検索 (RAG)

      質問に最も近いパッセージを取得し、同じ Zurelay のキーでチャットモデルに渡します。

    • 重複排除とクラスタリング

      ほぼ重複したレコード、サポートチケット、レビューを、ベクトルの近さでグループ化します。

    • レコメンデーション

      ユーザーが見たもののベクトルから、似た記事、商品、出品をおすすめします。

    始める

    3ステップでText Embedding 3 Largeを呼び出せます。

    ウェイトリストも新しい SDK も不要です。すでに OpenAI の埋め込みを呼び出しているコードはそのまま Zurelay で動作し、保存済みのベクトルもそのまま使えます。

    1. 1

      キーを作成

      Sign up, add creditとcreate an API key. Set a monthly budget or a rate limit per key if you like.

    2. 2

      ZurelayでPoint your SDK

      Change the base URL. The model IDs, the requestとthe vectors stay the same as OpenAI's.

      https://api.zurelay.com/v1
    3. 3

      Use text-embedding-3-large

      Call client.embeddings.create, or POST text to /v1/embeddings, one string or up to 2,048 at once,とget a vector for each.

      text-embedding-3-large

    よくある質問

    テキスト Embedding 3 Large APIについてよくある質問。

    ほかにご質問はありますか? チームに問い合わせると、メールでお答えします。

    text-embedding-3-large API の料金はいくらですか?

    Zurelay の料金は 1M 入力トークンあたり $0.065 で、OpenAI の定価 $0.13 に対して 50% の節約になります。ベクトルは無料で、課金されるのは送信したトークンのみです。数え方は OpenAI と同じで、リクエストごとの最低額はありません。失敗したリクエストには料金がかかりません。

    OpenAI の text-embedding-3-large と同じですか?

    はい。text-embedding-3-large へのリクエストは OpenAI のモデル上で実行され、すべての経路を OpenAI 自身の API と照合して確認しました。同じテキストに対して、ベクトルは OpenAI のものとコサイン類似度 0.9999 以上で一致します。Zurelay は独立したサービスであり、OpenAI と提携しているわけでも、OpenAI から承認を受けているわけでもありません。

    すでに持っているベクトルはそのまま使えますか?

    はい。OpenAI の text-embedding-3-large で作成したベクトルは、Zurelay 経由で埋め込んだクエリで検索でき、その逆も可能です。別のモデル(text-embedding-3-small など)に移す場合だけ、すべてを埋め込み直す必要があります。異なるモデルのベクトルは比較できないためです。

    text-embedding-3-large と text-embedding-3-small のどちらを使うべきですか?

    まずは text-embedding-3-small から始めてください。トークンあたりのコストが大幅に安く、1,536 次元のベクトルはほとんどの検索や RAG に適しています。適切なパッセージを見つけることがストレージや価格より重要な場合に text-embedding-3-large を選んでください。どちらを選ぶにせよ、比較するものにはすべて同じモデルを使ってください。2 つのモデルのベクトルは混在できません。

    OpenAI SDK で text-embedding-3-large を呼び出すには?

    Create a Zurelay API key, set the base URL to https://api.zurelay.com/v1とcall client.embeddings.create with model set to text-embedding-3-largeとyour text as input. Or POST the same JSON to https://api.zurelay.com/v1/embeddings with your key as a Bearer token. The docs at https://zurelay.com/docs/embeddings have examples in Python, Node.js and cURL.

    text-embedding-3-large の次元数はいくつですか?

    デフォルトは3,072です。dimensions を1〜3,072の任意の数に設定すると、より短いベクトルにできます。短縮したベクトルでも問題なく動作するようモデルは学習されており、返される際には再正規化されます。1,024次元ならストレージは3分の1で済みます。比較するベクトルはすべて同じ長さにしてください。

    LangChain、LlamaIndex、AI SDK で使えますか?

    はい。LangChain の OpenAIEmbeddings や LlamaIndex の OpenAIEmbedding にモデル ID text-embedding-3-large、Zurelay のベース URL、API キーを渡すか、それらを使って Vercel AI SDK の OpenAI プロバイダーを作成してください。LangChain の Python クラスはデフォルトでトークン ID を送信しますが、Zurelay はこれを受け付けるため、デフォルト設定のままで動作します。

    上限はどれくらいですか?

    1リクエストあたり最大 2,048 件の入力、各入力は最大 8,192 トークン、リクエスト全体で最大 300,000 トークンです。空文字列は受け付けません。上限を超えたリクエストには、その上限を示す 400 エラーが返り、料金はかかりません。

    スマートルーティングが別のモデルで応答することはありますか?

    いいえ、埋め込みでは決してありません。異なるモデルのベクトルは比較できないため、別モデルのベクトルはあなたのインデックスには誤りとなります。text-embedding-3-large がダウンしている場合、リクエストは 503 エラーで失敗します。これは再試行できます。

    Playground で試せますか?

    はい。ダッシュボードの Playground で text-embedding-3-large を選び、テキストをいくつか書いて埋め込んでみてください。各ベクトルの先頭の数値、課金されたトークン数、コスト、すべてのペアのコサイン類似度が表示されます。「コードを取得」では、同じリクエストを Python、Node.js、cURL 用に書き出します。

    Zurelayのその他のモデル

    すべてのモデル

    定価で払うのはもう終わり。
    今日から節約を始めましょう。

    数秒でキーを作成し、お使いのSDKをZurelayに接続するだけ。最初のトークンから、すべてのリクエストが最大90%安くなります。