acme/legal-assistant のようなモデル ID を使って通常の Phaseo API から呼び出せます。参照や呼び出しができるのは自分のワークスペースだけで、公開モデル ID が使える場所ならどこでも使えます。
プライベートモデルはベータ段階です。ワークスペースのオーナーと管理者が追加・管理します。
始める前に
デプロイは次を備えている必要があります。- 公開 HTTPS のベース URL
- OpenAI 互換の
/chat/completionsエンドポイント - Bearer トークン認証
- そのエンドポイントが受け付ける上流のモデル ID またはデプロイ ID
/responses への対応は任意です。デプロイがそのエンドポイントを明示的に実装していない限り、無効のままにしてください。
デプロイを接続する
1
プライベートモデルを開く
ダッシュボード → 設定 → ワークスペース → プライベートモデル を開き、モデルを追加 を選択します。ワークスペースのオーナーまたは管理者である必要があります。スクリプトからは、管理キーを使い、同じフィールドを指定して
POST /v1/private-models を呼び出します。2
モデルに名前を付ける
既存のカタログモデルを選んでそのプロバイダー一覧にこのデプロイを追加するか、ワークスペースの名前空間は選択も置き換えもできません。カタログの ID を正確に指定した場合は、そのモデルの公開 ID を変えずにそのモデルに追加されます。
legal-assistant のような短いモデルスラッグを入力します。その一意のスラッグを持つカタログモデルがない場合、Phaseo は信頼済みのワークスペース名前空間とスラッグを組み合わせます。3
エンドポイントを設定する
推論パスの手前までのベース URL を入力します。たとえば次のように指定します。
/chat/completions や /responses は含めないでください。上流のモデル ID またはデプロイ ID は別の欄に正確に入力します。Phaseo はリクエストを転送するときにこの ID に置き換えます。4
認証情報を保存する
デプロイの API キーを入力します。Phaseo は認証情報を暗号化し、保存後は二度と返しません。後からモデルの設定ページで置き換えられます。
5
モデルを呼び出す
生成されたモデル ID を、通常の Chat Completions エンドポイントで使います。呼び出しに使う API キーは、プライベートモデルと同じワークスペースに属している必要があります。
cURL
ルーティングの仕組み
単独のワークスペースモデルは、設定したエンドポイントにのみルーティングされます。カタログモデルに追加したエンドポイントは、ルーティングポリシーに従ってそのモデルのプロバイダー一覧に加わります。
Phaseo は保存された認証情報を Bearer トークンとして送り、設定された上流モデル ID に置き換えます。
プライベートモデルが公開プロバイダールートになることはなく、他のワークスペースからは見えません。有効なプライベートモデルは認証済みのモデルカタログに含まれ、非公開 フィルターの下に表示されます。
プライベートデプロイを追加、変更、または有効にした後は、ルーティングをテストするまで最大 1 分待ってください。それまでは一部のリクエストが、モデルの公開プロバイダーなど以前の設定を使う場合があります。すでに処理中のリクエストは別のルートに回されません。
プロバイダー別の例
プロバイダーの製品や URL の形式は変わることがあります。ベース URL、モデル ID、認証方式、対応エンドポイントは、プロバイダーの最新のデプロイドキュメントで確認してください。
API でプライベートモデルを管理する
サーバー側の管理には、必要に応じてprivate_models:read、private_models:write、private_models:delete を持つ管理キーで Private Models API を使えます。
作成と更新のリクエストは model_reference を受け付けます。カタログモデルの正確な ID か短いスラッグのどちらかです。model_id は Phaseo が導出し、クライアントが直接送ることはできません。既存の Phaseo プロバイダーには host_provider_id を、それ以外の運営者には custom_provider_name と任意の custom_provider_url を使います。
トラブルシューティング
- プロバイダーから 404 が返る: ベース URL が推論パスの手前で終わっているか確認してください。
- 不明なモデル: プロバイダーの上流デプロイ ID を 上流モデルID にコピーします。そこに Phaseo のワークスペースモデル ID を使わないでください。
- 上流リクエストが認証されない: 保存した認証情報を置き換え、プロバイダーが Bearer 認証を受け付けることを確認してください。
- Chat は動くが Responses が失敗する: プロバイダーが
/responsesをネイティブに実装していない限り、Responses API を無効にしてください。 - モデルがカタログに表示されない: モデルが有効になっていること、呼び出し元が同じワークスペースで認証されていることを確認してください。