現在のサービス状態を確認する
- Phaseoのステータスページを開き、現在のインシデントと過去の履歴を確認します。
- 次を呼び出します:
GET /v1/healthGatewayの簡易ヘルスチェックを行います。 - リクエストが1件失敗した場合は、サービス全体が停止したと判断する前に、request IDを控えてアクティビティまたは生成レコードを確認します。
公開ステータスページではサービスの稼働状況を確認できます。Phaseoは現在、契約上の公開稼働率SLAを提示していません。
モデルがルーティング可能か確認する
PhaseoのカタログはGatewayから利用できるモデルより広い範囲を扱います。カタログにあることはPhaseoがモデルを追跡していることを示すだけで、公開ルートが存在するとは限りません。GET /v1/models デフォルトでは、現在ルーティング可能なモデルのみを返します。
availability=all は、近日公開または無効なマッピングを意図的に確認する場合にのみ使用します。availability_status が active かつ is_active_gateway が true でない限り、プロバイダー行に本番トラフィックを送信しないでください。
利用可能であることは、継続的な稼働、すべてのリージョンからのアクセス、全ワークスペースで同一の商用条件を保証するものではありません。
パフォーマンス指標を読み解く
Phaseoのパフォーマンスデータは観測データです。管理されたラボのベンチマークではなく、Gatewayを経由したリクエストを集計しています。
TTFTと出力速度の測定には、最初の出力が内容を含むストリーミングレスポンスが必要です。非ストリーミングのリクエストでも、TTFTを作り出さずに所要時間と実効スループットの測定に利用できます。
指標は必ず時間範囲、ルート、リージョン、ストリーミングモード、パーセンタイルと合わせて確認します。プロバイダーの負荷、プロンプトや出力の長さ、再試行、転送条件によって結果が変わります。
詳しい定義は次を参照してください: 料金とパフォーマンス とPhaseoによるレイテンシとスループットの測定方法.
実際のワークロードで検証する
公開テレメトリーは傾向を示す参考情報であり、ルートが本番目標を満たす証明ではありません。展開前に、小規模で再現可能な調査を行います。- 機密性の高い本番データを取り除き、代表的なプロンプト構成を残します。
- モデルID、エンドポイント、プロバイダー制約、リージョン、ストリーミングモード、並行数を記録します。
- 1回のリクエストではなく分布を比較できる回数だけ実行します。
- 成功率、Gateway TTFT、プロバイダー所要時間、Gateway E2E、出力トークン数、最終コストを記録します。
- 無効なキーやモデル、レート制限、プロバイダー利用不可時の失敗をテストします。
- 他のエンジニアが結果を再現できるよう、リクエストIDと正確な時間範囲を保存します。
失敗したリクエストを調査する
- サービスのステータスを確認します。
GET /v1/modelsのデフォルトレスポンスにモデルが引き続き表示されることを確認します。- HTTPステータスとエラーコードを確認します: エラー処理.
- 一時的な
429と5xxエラーは、上限付きの指数バックオフで再試行します。 - サポートに問い合わせる際は、リクエストIDを控えてください。