変更点
1
利用しているHeliconeの機能を確認する
本番運用に関わるカスタムプロパティ、セッション、ユーザー識別子、キャッシュ、レート制限、アラート、ダッシュボードを記録します。プロキシを削除すれば、それらのワークフローが別の場所に自動で再現されるとは限りません。
2
プロキシ設定を置き換える
OpenAI互換クライアントの接続先をPhaseoに変更し、
Helicone-Authとその他のHelicone固有ヘッダーを削除します。3
リクエストの可視性を移行する
運用上の調査には、Phaseoのアクティビティ、リクエストID、プロバイダーへの試行、価格の詳細を使ってください。テレメトリを別の場所にエクスポートしている場合は、切り替え前に対応する可観測性連携を設定します。
4
テストして段階的に切り替える
Heliconeヘッダーなしでリクエストが完了し、インシデント対応に必要な運用上の情報をチームが引き続き確認できることを検証します。推論と可観測性の両方の確認に合格したら、トラフィックを段階的に移行してください。
移行チェックリスト
- HeliconeプロキシURLと認証ヘッダーを削除した。
- 本番モデルIDを
GET /v1/modelsで確認した。 - 必要なリクエストメタデータをPhaseoまたはテレメトリ基盤で引き続き確認できる。
- 必要に応じて、アラートとダッシュボードの代替手段を決めた。
- ロールバックは引き続きエンドポイントとキーの設定変更だけで行える。