始める前に
デプロイには以下が必要です。- 公開された HTTPS ベース URL。
- OpenAI 互換の
/chat/completionsエンドポイント。 - Bearer トークン認証。
- そのエンドポイントが受け付ける提供元のモデル ID またはデプロイ ID。
/responses への対応は任意です。デプロイがそのエンドポイントを明示的に実装していない限り、無効のままにしてください。
デプロイを接続
1
プライベートモデルを開く
ダッシュボード → 設定 → ワークスペース → プライベートモデルを開き、モデルを追加を選択します。ワークスペースのオーナーまたは管理者である必要があります。
2
モデルに名前を付ける
既存のカタログモデルを選んでこのデプロイをそのプロバイダー一覧に追加するか、ワークスペースの名前空間は選択や変更ができません。カタログの正確な ID を指定すると、公開上の識別情報を変えずにそのモデルに接続されます。
legal-assistant のような短いモデルスラッグを入力します。その一意のスラッグを持つカタログモデルがなければ、Phaseo は信頼されたワークスペースの名前空間と組み合わせます。3
エンドポイントを設定
推論パスを含めずにベース URL を入力します。例:
/chat/completions や /responses は含めないでください。提供元の正確なモデル ID またはデプロイ ID は別途入力します。Phaseo はリクエストを転送する際にその ID を使用します。4
認証情報を保存
デプロイの API キーを入力します。Phaseo は認証情報を暗号化し、保存後に返すことはありません。後からモデルの設定ページで変更できます。
5
モデルを呼び出す
生成されたモデル ID を通常の Chat Completions エンドポイントで使用します。呼び出しに使う API キーは、プライベートモデルと同じワークスペースに属している必要があります。
cURL
ルーティングの仕組み
プライベートモデルはカタログモデルと同じ Phaseo リクエストインターフェースを使用します。独立したワークスペースモデルは、設定されたエンドポイントにのみルーティングされます。カタログモデルに接続されたエンドポイントは、優先、通常プール、フォールバックのみのポリシーに従って、そのモデルのプロバイダー一覧に追加されます。Phaseo は保存された認証情報を Bearer トークンとして送信し、設定された提供元のモデル ID を使用します。 プライベートモデルが公開プロバイダールートになることはなく、他のワークスペースには表示されません。有効なプライベートモデルは認証済みのモデルカタログに含まれ、プライベートフィルターに表示されます。既存のカタログモデルにプライベートデプロイを追加または有効化した後は、API レイヤーに変更が反映されるまで 5~10 秒待ってからルーティングをテストしてください。その間、リクエストは既存の公開プロバイダーを使い続ける場合があります。すでに処理中のリクエストは再ルーティングされません。
プロバイダーの例
プロバイダーの製品や URL 形式は変更される場合があります。提供元の最新のデプロイドキュメントで、ベース URL、モデル ID、認証方式、対応エンドポイントを確認してください。
API でプライベートモデルを管理
サーバー側の管理では、必要に応じてprivate_models:read、private_models:write、private_models:delete を持つ管理キーを使ってプライベートモデル APIを利用できます。
作成・更新リクエストの model_reference には、カタログの正確なモデル ID または短いスラッグを指定できます。Phaseo が model_id を導出するため、クライアントから直接指定することはできません。既存の Phaseo プロバイダーには host_provider_id を使い、別の運営者には custom_provider_name と任意の custom_provider_url を指定してください。
トラブルシューティング
- **プロバイダーから 404 が返る:**ベース URL に推論パスが含まれていないことを確認してください。
- モデルが不明:提供元のデプロイ ID を提供元のモデル IDにコピーしてください。ここには Phaseo ワークスペースのモデル ID を使わないでください。
- **提供元で認証エラー:**保存された認証情報を更新し、プロバイダーが Bearer 認証を受け付けることを確認してください。
- **Chat は動作するが Responses が失敗する:**プロバイダーが
/responsesをネイティブに実装していない限り、Responses APIを無効にしてください。 - **カタログにモデルが表示されない:**モデルが有効であり、呼び出し元が同じワークスペースで認証されていることを確認してください。