service_tier bei einer Textanfrage, um für schnellere Auslieferung zu bezahlen (fast, ultrafast) oder einen günstigeren Modus mit niedrigerer Priorität zu akzeptieren (flex). Phaseo routet dann nur zu Anbietern, die diese Stufe für das Modell anbieten. Das Feld funktioniert bei /v1/chat/completions, /v1/responses und /v1/messages gleich.
Stufen sind nur für Textmodelle verfügbar und nur dort, wo Modell und Anbieter sie unterstützen. Modellseiten zeigen stufenspezifische Preise, sofern Phaseo sie hat.
Was passiert, wenn eine Stufe nicht angeboten wird
Phaseo behält nur die Anbieterrouten, die die angeforderte Stufe anbieten; es fällt nie auf eine andere Stufe zurück. Bietet keine Route sie an, schlägt die Anfrage mit400 unsupported_model_or_endpoint und dem Grund service_tier_not_supported fehl.
Andere Werte schlagen mit 400 validation_error fehl:
service_tier: "batch"bei einer synchronen Anfrage (Schlüsselwortbatch_service_tier_not_supported). Verwende stattdessen die Batch API.- Jeder andere Wert als
standard,default,fast,ultrafast,priority,flexoderbatch(Schlüsselwortunsupported_service_tier).
Eine Stufe auf jedem Endpunkt anfordern
ultrafast ein Modell, dessen Seite Ultrafast-Preise aufführt.
Mistral Priority und EU-Routing
Mistral Priority Tier erfordert ein berechtigtes Mistral-Enterprise-Konto. Phaseo ordnetpriority dem automatischen Prioritätsmodus von Mistral zu und rechnet die Stufe ab, die Mistral meldet: Fällt Mistral auf Standard zurück, zahlst du Standard-Preise.
Ein Preis im Katalog macht eine Stufe nicht routbar. Priority bleibt deaktiviert, sofern die konkrete Mistral-Route keine Priority-Unterstützung ausweist, und die Berechtigung hängt weiterhin vom Mistral-Konto und vom Modell ab.
GLM 5.2 lässt sich mit dem Anbieterangebot mistral-eu auf den regionalen EU-Endpunkt von Mistral festlegen: