Zum Hauptinhalt springen
Füge deinem Arbeitsbereich eine dedizierte oder selbst gehostete Bereitstellung hinzu, und dein Team ruft sie über die normale Phaseo-API mit einer Modell-ID wie acme/legal-assistant auf. Nur dein Arbeitsbereich kann sie sehen oder aufrufen, und sie funktioniert überall, wo auch eine öffentliche Modell-ID funktioniert.
Private Modelle haben den Status Beta. Inhaber und Admins des Workspace fügen sie hinzu und verwalten sie.
Typische Quellen sind dedizierte Bereitstellungen auf Baseten, Modal, RunPod, Fireworks oder Together sowie Server mit vLLM oder einem anderen OpenAI-kompatiblen Server.

Bevor du beginnst

Deine Bereitstellung muss Folgendes bieten:
  • eine öffentliche HTTPS-Basis-URL;
  • einen OpenAI-kompatiblen /chat/completions-Endpunkt;
  • Authentifizierung mit Bearer-Token und
  • eine Upstream-Modell- oder Bereitstellungs-ID, die dieser Endpunkt akzeptiert.
Die Unterstützung für /responses ist optional. Lass sie deaktiviert, sofern die Bereitstellung diesen Endpunkt nicht ausdrücklich implementiert.
Private Modelle passen keine rein anbietereigenen Protokolle oder benutzerdefinierten Authentifizierungsverfahren an. Schalte eine OpenAI-kompatible Schicht vor diese Bereitstellungen oder nutze eine unterstützte Phaseo-Anbieterintegration.

Eine Bereitstellung verbinden

1

Private Modelle öffnen

Öffne Dashboard → Einstellungen → Arbeitsbereich → Private Modelle und wähle Modell hinzufügen. Du musst Eigentümer oder Administrator des Arbeitsbereichs sein. Für Skripte rufst du POST /v1/private-models mit denselben Feldern und einem Management-Schlüssel auf.
2

Das Modell benennen

Wähle ein vorhandenes Katalogmodell, um diese Bereitstellung zu seiner Anbieterliste hinzuzufügen, oder gib einen kurzen Modell-Slug wie legal-assistant ein. Wenn kein Katalogmodell diesen eindeutigen Slug hat, kombiniert Phaseo ihn mit dem vertrauenswürdigen Namespace des Arbeitsbereichs:
Du kannst den Namespace des Arbeitsbereichs weder wählen noch ersetzen. Exakte Katalog-IDs werden diesem Modell zugeordnet, ohne seine öffentliche Identität zu ändern.
3

Den Endpunkt konfigurieren

Gib die Basis-URL vor dem Inferenzpfad ein. Verwende zum Beispiel:
Füge weder /chat/completions noch /responses hinzu. Gib die exakte Upstream-Modell- oder Bereitstellungs-ID separat ein; Phaseo setzt sie beim Weiterleiten der Anfragen ein.
4

Die Zugangsdaten speichern

Gib den API-Schlüssel der Bereitstellung ein. Phaseo verschlüsselt die Zugangsdaten und gibt sie nach dem Speichern nie zurück. Du kannst sie später auf der Einstellungsseite des Modells ersetzen.
5

Das Modell aufrufen

Verwende die erzeugte Modell-ID mit dem normalen Chat Completions-Endpunkt:
cURL
Der aufrufende API-Schlüssel muss zum selben Arbeitsbereich wie das private Modell gehören.

So funktioniert das Routing

Ein eigenständiges Arbeitsbereichsmodell wird nur zu seinem konfigurierten Endpunkt geroutet. Ein Endpunkt, der einem Katalogmodell zugeordnet ist, wird gemäß seiner Routing-Richtlinie Teil der Anbieterliste dieses Modells: Phaseo sendet die gespeicherten Zugangsdaten als Bearer-Token und setzt die konfigurierte Upstream-Modell-ID ein. Ein privates Modell wird nie zu einer öffentlichen Anbieterroute und ist für andere Arbeitsbereiche nicht sichtbar. Aktivierte private Modelle sind im authentifizierten Modellkatalog enthalten und erscheinen unter dem Filter Privat.
Warte nach dem Hinzufügen, Ändern oder Aktivieren einer privaten Bereitstellung bis zu einer Minute, bevor du ihr Routing testest. Bis dahin können einige Anfragen noch die vorherige Konfiguration nutzen, etwa die öffentlichen Anbieter des Modells. Bereits laufende Anfragen werden nicht neu geroutet.

Anbieterbeispiele

Anbieterprodukte und URL-Formate können sich ändern. Prüfe Basis-URL, Modell-ID, Authentifizierungsmethode und unterstützte Endpunkte in der aktuellen Bereitstellungsdokumentation des Anbieters.

Private Modelle über die API verwalten

Die serverseitige Verwaltung kann die API für private Modelle mit einem Verwaltungsschlüssel nutzen, der je nach Bedarf private_models:read, private_models:write oder private_models:delete besitzt. Erstellungs- und Aktualisierungsanfragen akzeptieren model_reference, also entweder eine exakte Katalogmodell-ID oder einen kurzen Slug. Phaseo leitet model_id daraus ab; Clients können diese ID nicht direkt übermitteln. Verwende host_provider_id für einen vorhandenen Phaseo-Anbieter oder custom_provider_name und optional custom_provider_url für einen anderen Betreiber.

Fehlerbehebung

  • 404 vom Anbieter: Prüfe, ob die Basis-URL vor dem Inferenzpfad endet.
  • Unbekanntes Modell: Kopiere die Upstream-Bereitstellungs-ID des Anbieters in Upstream-Modell-ID. Verwende dort nicht die Phaseo-Modell-ID des Arbeitsbereichs.
  • Nicht autorisierte Upstream-Anfrage: Ersetze die gespeicherten Zugangsdaten und prüfe, ob der Anbieter Bearer-Authentifizierung akzeptiert.
  • Chat funktioniert, Responses schlägt fehl: Deaktiviere Responses API, sofern der Anbieter /responses nicht nativ implementiert.
  • Modell fehlt im Katalog: Prüfe, ob das Modell aktiviert und der Aufrufer im selben Arbeitsbereich authentifiziert ist.
Zuletzt geändert am 16. November 2026