baseten:thinking-machines/inkling-small のように、モデル ID の前にプロバイダー ID とコロンを付けると、リクエストはそのプロバイダーだけで実行され、他のプロバイダーへのフォールバックは行われません。
形式は
<provider-id>:<canonical-model-id> です。最初のコロンがプロバイダーを区切り、モデル名前空間より後のコロンはモデル ID の一部として残ります。google-ai-studio:google/gemma-4-26b-a4b:free では、プロバイダーは google-ai-studio、モデルは google/gemma-4-26b-a4b:free です。
プロバイダーを優先したいだけで、失敗時にはフォールバックさせたい場合は、通常のモデル ID とルーティングとフォールバックの設定を使ってください。
リクエストを送信する
エンドポイントがモデル ID を受け付ける場所ならどこでも、プロバイダー指定の ID を使えます。プロバイダーが満たす必要がある条件
プロバイダー指定はルーティングを 1 つのプロバイダーに絞るだけで、他のチェックを省略するものではありません。プロバイダーは引き続き次の条件を満たす必要があります。- 要求されたエンドポイントで正規モデルを提供し、その機能が有効になっている
- ワークスペース、API キー、プリセット、プライバシーの制限を満たす
- 要求されたサービスティアとパラメーターに対応している
- 料金が設定されている
provider や routing フィールドと組み合わせる
プロバイダー指定と明示的なルーティングフィールドは一致している必要があります。一致する provider.only または routing.only は受け付けられます。
provider_qualified_model_conflict で拒否されます。
1 つのプロバイダーの無料ルートをリクエストする
プロバイダー指定の:free モデルは、そのプロバイダーにそのモデルとエンドポイントで利用できる無料ルートがある場合にのみ受け付けられます。正規の :free モデルがあっても、元のモデルのすべてのプロバイダーが無料で提供しているわけではありません。
free のラベルが付いていて、価格がちょうどゼロである必要があります。料金がない、有料、混在、または負の値の場合や、free のラベルがないゼロ円のルールがある場合は、プロバイダーに届く前にリクエストが拒否されます。
プロバイダー ID とエイリアス
Phaseo のプロバイダーカタログにあるプロバイダー ID を使います(API プロバイダーを参照)。ID は小文字に変換され、既知の旧名やブランド名のエイリアスは正規の ID に対応付けられます。たとえばNovitaAI と novita-ai はどちらも novita になります。形式が不正な ID や不明な ID はプロバイダー選択の前に拒否され、モデル名の一部として上流に送られることはありません。
検証エラー
不正なプロバイダー指定の ID は、エラーコードvalidation_error とともに HTTP 400 を返します。原因は reason と details[].keyword で示されます。