プラットフォーム

モデルの検証

Zurelayの各モデルは、独立した販売者が運営する複数のルートで提供されます。各ルートはリクエストの処理を始める前と、その後は毎日テストします。指定したモデルがそのまま応答するよう確認しています。

価格を抑えられる理由

モデルの処理枠は、プリペイドクレジット、利用額を確約する契約、利用量に応じた料金体系などを通じて事前に確保されることが多く、すべてが使われるとは限りません。販売者は、そうした余剰枠を定価より安く提供します。Zurelayはそれをテストし、モデルごとに複数のルートをまとめて、利用可能で検証済み、かつ価格のよいルートへ各リクエストを送ります。詳しくは販売者ページをご覧ください。

ルートがリクエストを処理する前に

  • モデルの識別。異なるシステムプロンプトやペルソナを使い、モデル自身に何のモデルかを尋ねます。別の製品名を答えたり、与えられた指示に従わなかったりすると不合格です。
  • 知識。答えが判明している過去の出来事について質問し、古いモデルや安価なモデルを新しいモデル名で提供していないか確認します。
  • 推論。答えが一つに定まる問題を使い、大きなモデルの代わりに小さなモデルが使われていないか確認します。
  • 応答の詳細。ルートが報告するモデル名とトークン数を、送信内容と照合します。
  • 画像。返された画像のサイズとアスペクト比を測定し、指定どおりか確認します。
  • ツールとストリーミング。OpenAI形式とAnthropic形式のツール呼び出し、およびストリーミングが、ドキュメントどおりに動作することを確認します。

テスト内容の詳細は公開していません。テストに合わせて結果を偽装できないようにするためです。

運用中のチェック

発生条件実施内容
10分ごと実際のトラフィックに加え、各チャットモデルへテストリクエストを送ります。失敗が続くルートは優先順位を下げます。
毎日知識とモデルの識別を再確認します。販売者はルートの先で動くモデルをいつでも変更できるためです。
すべてのリクエスト回答の代わりにエラーページが返されたり、画像のサイズが違ったりした場合は、失敗した試行として扱います。リクエストは別のルートに切り替わり、その試行には課金されません。
ルートがチェックに失敗した場合再びチェックに合格するまで、そのルートは使用されません。同じモデルのほかのルートは引き続きリクエストを処理します。

利用者への影響

  • 課金対象は送受信したトークンだけです。ルートが内部で追加する指示には課金されません。
  • 各モデルの稼働状況はステータスページで確認できます。フェイルオーバーとタイムアウトについては信頼性をご覧ください。
  • 回答が指定したモデルのものに見えない場合は、レスポンスのx-request-idを添えてサポートページからお問い合わせください。回答を返したルートを確認します。

チェックの対象

すべてのルートはリクエストを処理する前に検証され、稼働中も継続して再テストされます。指定したモデルが正しく動作する状態で提供されます。リクエストは、モデルの開発元が自社の顧客向けに定めた規約に基づいて処理されるものではありません。リクエストの処理と検証については、利用規約の3.3~3.6節をご覧ください。

Zurelayでの販売

提供できる余剰リソースがある場合は、販売者ページからお申し込みください。すべての申請を担当者が審査し、各ルートは顧客のリクエストを受ける前に同じチェックに合格する必要があります。

ご質問や不足している情報はありますか? サポートチームにお問い合わせください。通常1分以内にメールで回答します。