acme/legal-assistant auf. Nur dein Arbeitsbereich kann sie sehen oder aufrufen, und sie funktioniert überall, wo auch eine öffentliche Modell-ID funktioniert.
Private Modelle haben den Status Beta. Inhaber und Admins des Workspace fügen sie hinzu und verwalten sie.
Bevor du beginnst
Deine Bereitstellung muss Folgendes bieten:- eine öffentliche HTTPS-Basis-URL;
- einen OpenAI-kompatiblen
/chat/completions-Endpunkt; - Authentifizierung mit Bearer-Token und
- eine Upstream-Modell- oder Bereitstellungs-ID, die dieser Endpunkt akzeptiert.
/responses ist optional. Lass sie deaktiviert, sofern die Bereitstellung diesen Endpunkt nicht ausdrücklich implementiert.
Eine Bereitstellung verbinden
1
Private Modelle öffnen
Öffne Dashboard → Einstellungen → Arbeitsbereich → Private Modelle und wähle Modell hinzufügen. Du musst Eigentümer oder Administrator des Arbeitsbereichs sein. Für Skripte rufst du
POST /v1/private-models mit denselben Feldern und einem Management-Schlüssel auf.2
Das Modell benennen
Wähle ein vorhandenes Katalogmodell, um diese Bereitstellung zu seiner Anbieterliste hinzuzufügen, oder gib einen kurzen Modell-Slug wie Du kannst den Namespace des Arbeitsbereichs weder wählen noch ersetzen. Exakte Katalog-IDs werden diesem Modell zugeordnet, ohne seine öffentliche Identität zu ändern.
legal-assistant ein. Wenn kein Katalogmodell diesen eindeutigen Slug hat, kombiniert Phaseo ihn mit dem vertrauenswürdigen Namespace des Arbeitsbereichs:3
Den Endpunkt konfigurieren
Gib die Basis-URL vor dem Inferenzpfad ein. Verwende zum Beispiel:Füge weder
/chat/completions noch /responses hinzu. Gib die exakte Upstream-Modell- oder Bereitstellungs-ID separat ein; Phaseo setzt sie beim Weiterleiten der Anfragen ein.4
Die Zugangsdaten speichern
Gib den API-Schlüssel der Bereitstellung ein. Phaseo verschlüsselt die Zugangsdaten und gibt sie nach dem Speichern nie zurück. Du kannst sie später auf der Einstellungsseite des Modells ersetzen.
5
Das Modell aufrufen
Verwende die erzeugte Modell-ID mit dem normalen Chat Completions-Endpunkt:Der aufrufende API-Schlüssel muss zum selben Arbeitsbereich wie das private Modell gehören.
cURL
So funktioniert das Routing
Ein eigenständiges Arbeitsbereichsmodell wird nur zu seinem konfigurierten Endpunkt geroutet. Ein Endpunkt, der einem Katalogmodell zugeordnet ist, wird gemäß seiner Routing-Richtlinie Teil der Anbieterliste dieses Modells:
Phaseo sendet die gespeicherten Zugangsdaten als Bearer-Token und setzt die konfigurierte Upstream-Modell-ID ein.
Ein privates Modell wird nie zu einer öffentlichen Anbieterroute und ist für andere Arbeitsbereiche nicht sichtbar. Aktivierte private Modelle sind im authentifizierten Modellkatalog enthalten und erscheinen unter dem Filter Privat.
Warte nach dem Hinzufügen, Ändern oder Aktivieren einer privaten Bereitstellung bis zu einer Minute, bevor du ihr Routing testest. Bis dahin können einige Anfragen noch die vorherige Konfiguration nutzen, etwa die öffentlichen Anbieter des Modells. Bereits laufende Anfragen werden nicht neu geroutet.
Anbieterbeispiele
Anbieterprodukte und URL-Formate können sich ändern. Prüfe Basis-URL, Modell-ID, Authentifizierungsmethode und unterstützte Endpunkte in der aktuellen Bereitstellungsdokumentation des Anbieters.
Private Modelle über die API verwalten
Die serverseitige Verwaltung kann die API für private Modelle mit einem Verwaltungsschlüssel nutzen, der je nach Bedarfprivate_models:read, private_models:write oder private_models:delete besitzt.
Erstellungs- und Aktualisierungsanfragen akzeptieren model_reference, also entweder eine exakte Katalogmodell-ID oder einen kurzen Slug. Phaseo leitet model_id daraus ab; Clients können diese ID nicht direkt übermitteln. Verwende host_provider_id für einen vorhandenen Phaseo-Anbieter oder custom_provider_name und optional custom_provider_url für einen anderen Betreiber.
Fehlerbehebung
- 404 vom Anbieter: Prüfe, ob die Basis-URL vor dem Inferenzpfad endet.
- Unbekanntes Modell: Kopiere die Upstream-Bereitstellungs-ID des Anbieters in Upstream-Modell-ID. Verwende dort nicht die Phaseo-Modell-ID des Arbeitsbereichs.
- Nicht autorisierte Upstream-Anfrage: Ersetze die gespeicherten Zugangsdaten und prüfe, ob der Anbieter Bearer-Authentifizierung akzeptiert.
- Chat funktioniert, Responses schlägt fehl: Deaktiviere Responses API, sofern der Anbieter
/responsesnicht nativ implementiert. - Modell fehlt im Katalog: Prüfe, ob das Modell aktiviert und der Aufrufer im selben Arbeitsbereich authentifiziert ist.