変更点
1
Phaseo API キーを作成する
Gateway キーでキーを作成し、アプリケーションを実行するすべての環境に追加します。
2
クライアントの接続先を Phaseo にする
OpenAI SDK はそのまま使い、まず認証情報とベース URL だけを変更します。
3
モデル ID とエンドポイントの対応状況を確認する
以前のエイリアスがそのまま使えると想定せず、Phaseo で利用できるモデルを一覧表示します。ストリーミング、ツール、構造化出力、画像、音声、ファイル、バッチなど、使用するすべての本番ワークフローを確認します。対応するエンドポイントは API リファレンス で確認してください。
4
テストして段階的に展開する
旧設定と新設定の両方で代表的なプロンプトを実行します。出力形式、レイテンシ、トークン使用量、エラー、コストを比較してから、トラフィックを段階的に移行します。
移行チェックリスト
- 開発、ステージング、本番環境で Phaseo キーを設定した。
- クライアントのベース URL は
https://api.phaseo.app/v1。 - 本番で使うすべてのモデル ID が
GET /v1/modelsに含まれている。 - ステージングでストリーミング有り・無しのリクエストが成功する。
- アプリで使う場合、ツール呼び出しと構造化出力が動作する。
- ロールバックは引き続き設定内のキーとエンドポイントの変更だけで行える。