目的
- プロンプトとパラメーターの既定値を統一する。
- 展開時やコンプライアンス要件に合わせて、使用可能なプロバイダーを制限する。
- リクエストがそのようにルーティングされた理由を説明できるだけの情報を保持する。
1. プリセットを作成する
ダッシュボード -> 設定 -> プリセットで、次の内容を含むプリセットを作成します。- 分かりやすい名前と slug
- システムプロンプト
- 承認済みモデル
- プロバイダーの優先設定
temperatureなどのパラメーター既定値
2. リクエスト本文を小さく保つ
プリセットの主な利点は、呼び出し元が各リクエストで同じルーティングやプロンプトの既定値を繰り返す必要がなくなることです。3. プリセットによる変更を理解する
プリセットはプロバイダーのルーティング前に適用されます。- リクエストにないパラメーターはプリセットから補完される
- プリセットのプロンプトがシステム層の先頭に追加される
- プロバイダーの優先設定により、順位付けの前に利用可能なプロバイダーを絞り込みます
- モデル制限は早い段階で確認され、通知なく別の経路へ切り替わることはない
4. ルーティング結果をデバッグする
リクエストが想定どおりにルーティングされない場合は、Gateway -> Usage で開き、次を確認します。- 検討されたプロバイダー
- 順位付けされた候補
- 各候補に紐付いたルーティング要因
- ワークスペースポリシーやガードレールによるブロック
- プロバイダーが除外された理由
- リクエストがブロックされた理由
- より低コストまたは低レイテンシの候補が選ばれた理由
5. 運用パターン
ルーティング動作を変更するときは、次の手順で展開します。- 新しいポリシー用のプリセット slug を作成します。
- リスクの低い呼び出し元を新しいプリセットに切り替えます。
- リクエストの詳細とアクティビティの傾向を確認します。
- ルーティング結果が想定どおりであることを確認してから展開を広げます。