Skip to main content
请求可能被所选提供商或适用的工作区或密钥策略限流。路由和回退可以减少提供商故障,但请求仍可能返回 429。

提供商限制

BYOK 请求使用您的提供商账户限制。托管请求使用提供商的共享容量;该容量并非单个工作区的专属配额。 当路由到的提供商提供 Retry-After 值时,Phaseo 会验证并转发该值。BYOK 响应还可能包含 X-Phaseo-Upstream-RateLimit-* 标头。这些配额标头描述的是提供商的共享容量,因此托管请求会省略这些标头。其他上游标头不会被转发。

处理被限流的请求

  1. 检查错误代码,区分提供商的临时限流与需要更改配置的策略或预算限制。
  2. 如果存在 Retry-After,请遵循其要求。该值可能是以秒为单位的延迟,也可能是 HTTP 日期;在安排重试前验证该值。
  3. 否则,使用带随机抖动和最大延迟的指数退避。
  4. 同时限制重试次数和总体截止时间。取消已放弃的任务,并在重试前释放每个失败响应的响应体。
  5. 如果限流持续,请降低并发量。
不要自动重试结果不明确的任务提交,也不要重复执行已完成的工具操作。即使客户端未收到响应,请求也可能已到达提供商;重试可能导致重复处理和重复收费。对于已受理的视频或批处理任务,请使用其状态端点,而不要重新提交。

监控限流

按端点和模型跟踪 429 的发生率,并在请求日志中检查回退频率。将应用日志与路由设置以及 BYOK 流量的提供商账户配额进行对比。 有关工作区的支出和访问控制,请参阅预算和防护规则。
最后修改于 2026年10月2日