連携の境界を棚卸しする
移行後に隠れた別の設定経路が残らないよう、現在の Gateway が登場する箇所をすべて記録します。- ベース URL と API キーの環境変数
- SDK の初期化とカスタムヘッダー
- モデル ID とフォールバックモデル
- プロバイダーの順序、許可リスト、プライバシー要件
- ストリーミング、ツール呼び出し、構造化出力のコード
- バッチジョブ、ファイル、Webhook、非同期ステータスのポーリング
- リクエストの帰属情報と、ユーザーまたはセッションのメタデータ
リクエスト
ルーティングとポリシー
運用
利用できない機能
次の機能には Phaseo の代替がありません。アプリ側か旧プラットフォームに残してください。- レスポンスキャッシュ。 Phaseo はレスポンスをキャッシュしません。プロンプトキャッシュでは引き続き入力コストを削減できます。
- 保存されたレスポンスと会話。
GETやDELETE /v1/responses/{id}はありません。 - トークンカウント(
/v1/messages/count_tokens)。 - OpenAI Assistants、Threads、ベクトルストア、ファインチューニング、旧来の
/v1/completions。
各機能を分類する
上の表と移行元プラットフォームのガイドを使い、本番の各動作にステータスを 1 つずつ付けます。自分のトラフィックで検証する
API の互換性があっても、次の点が同じ動作になるとは限りません。- 自動のプロバイダー選択とフォールバックの順序
- プロンプトキャッシュのアフィニティとキャッシュ料金
- プロバイダー固有のリクエストフィールドと、レスポンスのみのメタデータ
- レート制限とリトライのタイミング
- データ保持、レジデンシー、学習に関するポリシー
- モデルの正確な提供状況と価格
- 使用中のすべてのエンドポイントで通常のリクエストを 1 回
- 本番と同じクライアント経路でのストリーミング
- 現実的なスキーマでのツール呼び出しと構造化出力
- すべてのプロバイダー制約とプライバシー制約
- 無効なキー、無効なモデル、レート制限、プロバイダー利用不可の失敗
- 成功、失敗、キャンセルまでのバッチまたは非同期ジョブ
GET /v1/generations?id=<request_id> で確認できます。