Zum Hauptinhalt springen
Prüfe die Statusseite und GET /v1/health, um zu sehen, ob Phaseo fehlerfrei läuft, GET /v1/models, um zu sehen, ob ein Modell gerade routbar ist, und deinen eigenen Testlauf, um zu sehen, ob eine Route dein Zuverlässigkeitsziel erfüllt.

Aktuellen Servicestatus prüfen

  1. Öffne die Phaseo-Statusseite für aktuelle Vorfälle und den Vorfallverlauf.
  2. Rufe GET /v1/health für eine minimale Gateway-Statusprüfung auf.
  3. Wenn eine einzelne Anfrage fehlgeschlagen ist, bewahre ihre Request-ID auf und prüfe ihren Aktivitäts- oder Generierungsdatensatz, bevor du annimmst, dass der ganze Dienst ausgefallen ist.
Die öffentliche Statusseite meldet den Servicestatus. Phaseo sichert derzeit keine vertragliche öffentliche Verfügbarkeits-SLA zu.

Prüfen, ob ein Modell routbar ist

Der Phaseo-Katalog listet mehr Modelle, als das Gateway routen kann: Ein Katalogeintrag bedeutet, dass Phaseo das Modell erfasst, nicht dass eine öffentliche Route existiert. GET /v1/models gibt standardmäßig nur aktuell routbare Modelle zurück:
Füge availability=all hinzu, um auch demnächst verfügbare und inaktive Zuordnungen zu sehen. Sende Produktions-Traffic nur an eine Anbieterzeile, wenn ihr availability_status active und is_active_gateway true ist. Unter Anbieter- und Phaseo-Status erfährst du, was die Statussymbole auf Modellseiten bedeuten. active garantiert weder Betriebszeit noch Zugang in jeder Region noch dieselben Geschäftsbedingungen für jeden Workspace.

Leistungsmetriken interpretieren

Die Leistungsdaten von Phaseo fassen echte Anfragen zusammen, die über das Gateway geroutet wurden; sie sind kein kontrollierter Labor-Benchmark. TTFT und Ausgabegeschwindigkeit erfordern eine Streaming-Antwort mit einer ersten Ausgabe, die Inhalt enthält. Eine Anfrage ohne Streaming trägt trotzdem zu Dauer und effektivem Durchsatz bei, aber nicht zu TTFT. Lies jede Metrik zusammen mit ihrem Zeitfenster, ihrer Route, Region, ihrem Streaming-Modus und Perzentil. Anbieterauslastung, Prompt-Länge, Ausgabelänge, Wiederholungen und Netzwerkbedingungen verändern das Ergebnis. Die vollständigen Definitionen findest du unter Preise und Leistung und Wie Phaseo Latenz und Durchsatz misst.

Mit deiner Arbeitslast validieren

Öffentliche Metriken zeigen die Richtung; sie beweisen nicht, dass eine Route dein Produktionsziel erfüllt. Führe vor einem Rollout einen kleinen, reproduzierbaren Test durch:
  1. Entferne sensible Produktionsdaten und behalte eine repräsentative Prompt-Mischung bei.
  2. Halte Modell-ID, Endpunkt, Anbietereinschränkungen, Region, Streaming-Modus und Parallelität fest.
  3. Führe genügend Wiederholungen aus, um Verteilungen statt einer einzelnen Anfrage zu vergleichen.
  4. Erfasse Erfolgsrate, Gateway-TTFT, Anbieterdauer, Gateway-E2E, Ausgabetokens und Endkosten.
  5. Teste ungültige Schlüssel, ungültige Modelle, Ratenlimits und Fehler durch nicht verfügbare Anbieter.
  6. Speichere Request-IDs und das genaue Zeitfenster, damit eine andere Person das Ergebnis reproduzieren kann.
Veröffentliche keinen Kundennamen, kein Zitat, kein Arbeitslastergebnis und keinen Zuverlässigkeitsprozentsatz ohne Erlaubnis und eine dokumentierte Methode.

Fehlgeschlagene Anfrage untersuchen

  1. Prüfe den Servicestatus.
  2. Prüfe, ob das Modell weiterhin in der Standardantwort von GET /v1/models erscheint, und prüfe seine Endpunkte.
  3. Schlage HTTP-Status und Fehlercode unter Fehler und Debugging nach.
  4. Wiederhole vorübergehende 429- und 5xx-Antworten mit begrenztem exponentiellem Backoff; siehe Ratenlimits.
  5. Bewahre die Request-ID auf, wenn du den Support kontaktierst.
Damit Anfragen weiter funktionieren, wenn ein Anbieter ausfällt, richte Routing und Fallbacks ein.
Zuletzt geändert am 5. November 2026