Eine Anfrage kann durch den ausgewählten Anbieter oder eine geltende Arbeitsbereichs- oder Schlüsselrichtlinie gedrosselt werden. Routing und Fallbacks können Anbieterfehler reduzieren, eine Anfrage kann jedoch weiterhin 429 zurückgeben.
Anbieterlimits
BYOK-Anfragen verwenden die Limits Ihres Anbieterkontos. Verwaltete Anfragen nutzen gemeinsame Anbieterkapazität; diese Kapazität ist kein individuelles Arbeitsbereichskontingent.
Phaseo leitet einen validierten Retry-After-Wert weiter, wenn der Anbieter, an den die Anfrage geroutet wird, einen bereitstellt. BYOK-Antworten können auch X-Phaseo-Upstream-RateLimit-*-Header enthalten. Diese Kontingent-Header werden bei verwalteten Anfragen weggelassen, da sie gemeinsame Anbieterkapazität beschreiben. Andere Upstream-Header werden nicht weitergeleitet.
Gedrosselte Anfragen behandeln
- Prüfen Sie den Fehlercode, um vorübergehende Anbieterdrosselung von einer Richtlinien- oder Budgetbeschränkung zu unterscheiden, die Konfigurationsänderungen erfordert.
- Beachten Sie
Retry-After, falls vorhanden. Der Wert kann eine Wartezeit in Sekunden oder ein HTTP-Datum sein; validieren Sie ihn, bevor Sie einen Wiederholungsversuch planen.
- Verwenden Sie andernfalls exponentielles Backoff mit zufälliger Streuung und einer maximalen Wartezeit.
- Begrenzen Sie Wiederholungsversuche sowohl durch eine maximale Anzahl als auch durch eine Gesamtfrist. Brechen Sie aufgegebene Arbeit ab und geben Sie jeden fehlgeschlagenen Antwortkörper vor einem erneuten Versuch frei.
- Reduzieren Sie die Parallelität, wenn die Drosselung anhält.
Wiederholen Sie eine Jobübermittlung mit unklarem Ergebnis nicht automatisch und führen Sie abgeschlossene Toolaktionen nicht erneut aus. Eine Anfrage kann den Anbieter erreicht haben, auch wenn der Client die Antwort verloren hat; Wiederholungsversuche können Arbeit und Kosten verdoppeln. Verwenden Sie für einen angenommenen Video- oder Batch-Job dessen Status-Endpunkt, statt ihn erneut zu übermitteln.
Drosselung überwachen
Erfassen Sie die Häufigkeit von 429 nach Endpunkt und Modell und prüfen Sie die Fallback-Häufigkeit in den Anfrageprotokollen. Vergleichen Sie Ihre Anwendungsprotokolle mit den Routing-Einstellungen und den Anbieterkontingenten für BYOK-Traffic.
Informationen zu Ausgaben- und Zugriffskontrollen im Arbeitsbereich finden Sie unter Budgets und Schutzregeln. Zuletzt geändert am 2. Oktober 2026
