メインコンテンツへスキップ
1 件のリクエストに provider オブジェクトを追加すると、ワークスペースの既定値やプリセットを変えずに、そのリクエストを処理するプロバイダーを変更できます。完成すると、優先順を指定する、リクエストを許可リストの中に収める、特定のプロバイダーをスキップする、といったことができ、どのプロバイダーが応答したかをレスポンスで確認できます。 これらのリクエストの形は本番環境で使えます。プロバイダーのスラッグは実在する例です。使うモデルを提供しているプロバイダーは、そのモデルのページで確認してください。 プロバイダーを 1 つだけに限定し、プロバイダー間のフォールバックを無効にするには、代わりにモデル ID の前にプロバイダーを付けます。1 つのプロバイダーに固定するを参照してください。

決まった順序でプロバイダーを試す

meta: true を指定するとレスポンスに meta.routing.selected_provider が追加されるため、ログを開かずに結果を確認できます。

リクエストを許可リストの中に収める

only を送り、必要に応じて sort も送ると、その一覧の中で順位付けされます。
一覧のどのプロバイダーもモデルを提供していない場合、リクエストは一覧の外に出ずに失敗します。

特定のプロバイダーをスキップする

プロバイダーの品質が低下しているときや、別の経路をテストしている間は ignore を送ります。

組み合わせる

候補の範囲には only、その中での優先順には order、残りには sort を使います。次の例はリクエストを Google Vertex に限定し、EU リージョンを最初に試し、その後はレイテンシで順位付けします。

送信先を確認する

設定 → 使用量 → ログ でリクエストを開き、ルーティングの可観測性 を展開します。順位付けの前に除外されたプロバイダーとその理由、およびスコア付きの順位付けされた候補が一覧表示されます。各フィールドの説明はルーティングの判断を説明するを参照してください。 リクエスト単位のルールは、一時的な上書き、1 つの呼び出し元に固有の上書き、1 つのユーザーフローに結びついた上書きに使います。同じルールが複数のサービスに現れたら、プリセットに移します。プリセットでは、フォールバックが使えるプロバイダーも制限されます。順位付けを比較するには、プロバイダーを並べ替えるを参照してください。
最終更新日 2026年11月5日