Zum Hauptinhalt springen
Setze service_tier bei einer Textanfrage, um für schnellere Auslieferung zu bezahlen (fast, ultrafast) oder einen günstigeren Modus mit niedrigerer Priorität zu akzeptieren (flex). Phaseo routet dann nur zu Anbietern, die diese Stufe für das Modell anbieten. Das Feld funktioniert bei /v1/chat/completions, /v1/responses und /v1/messages gleich.
Stufen sind nur für Textmodelle verfügbar und nur dort, wo Modell und Anbieter sie unterstützen. Modellseiten zeigen stufenspezifische Preise, sofern Phaseo sie hat.

Was passiert, wenn eine Stufe nicht angeboten wird

Phaseo behält nur die Anbieterrouten, die die angeforderte Stufe anbieten; es fällt nie auf eine andere Stufe zurück. Bietet keine Route sie an, schlägt die Anfrage mit 400 unsupported_model_or_endpoint und dem Grund service_tier_not_supported fehl. Andere Werte schlagen mit 400 validation_error fehl:
  • service_tier: "batch" bei einer synchronen Anfrage (Schlüsselwort batch_service_tier_not_supported). Verwende stattdessen die Batch API.
  • Jeder andere Wert als standard, default, fast, ultrafast, priority, flex oder batch (Schlüsselwort unsupported_service_tier).
Du sendest immer diese Gateway-Werte. Phaseo übersetzt sie in die eigenen Steuerungen jedes Anbieters, sodass zum Beispiel eine Anthropic-Route die Stufenfelder von Anthropic erhält.

Eine Stufe auf jedem Endpunkt anfordern

Verwende für ultrafast ein Modell, dessen Seite Ultrafast-Preise aufführt.

Mistral Priority und EU-Routing

Mistral Priority Tier erfordert ein berechtigtes Mistral-Enterprise-Konto. Phaseo ordnet priority dem automatischen Prioritätsmodus von Mistral zu und rechnet die Stufe ab, die Mistral meldet: Fällt Mistral auf Standard zurück, zahlst du Standard-Preise. Ein Preis im Katalog macht eine Stufe nicht routbar. Priority bleibt deaktiviert, sofern die konkrete Mistral-Route keine Priority-Unterstützung ausweist, und die Berechtigung hängt weiterhin vom Mistral-Konto und vom Modell ab. GLM 5.2 lässt sich mit dem Anbieterangebot mistral-eu auf den regionalen EU-Endpunkt von Mistral festlegen:
Regionale Inferenz bei Mistral kostet 10 % mehr. Batch-Preise gibt es nur beim globalen Mistral-Angebot über die Batch API; Mistral unterstützt Batch nicht auf regionalen Endpunkten. Die vollständige Feldreferenz steht unter Parameter; wie Stufen mit Anbieterreihenfolge und Fallbacks zusammenspielen, steht unter Routing und Fallbacks.
Zuletzt geändert am 5. November 2026