> ## Documentation Index
> Fetch the complete documentation index at: https://phaseo.app/docs/llms.txt
> Use this file to discover all available pages before exploring further.

# 速率限制

> 处理限流、提供商配额和有次数及时间限制的重试。

请求可能被所选提供商或适用的工作区或密钥策略限流。路由和回退可以减少提供商故障，但请求仍可能返回 `429`。

## 提供商限制

BYOK 请求使用您的提供商账户限制。托管请求使用提供商的共享容量；该容量并非单个工作区的专属配额。

当路由到的提供商提供 `Retry-After` 值时，Phaseo 会验证并转发该值。BYOK 响应还可能包含 `X-Phaseo-Upstream-RateLimit-*` 标头。这些配额标头描述的是提供商的共享容量，因此托管请求会省略这些标头。其他上游标头不会被转发。

## 处理被限流的请求

1. 检查[错误代码](./errors.mdx)，区分提供商的临时限流与需要更改配置的策略或预算限制。
2. 如果存在 `Retry-After`，请遵循其要求。该值可能是以秒为单位的延迟，也可能是 HTTP 日期；在安排重试前验证该值。
3. 否则，使用带随机抖动和最大延迟的指数退避。
4. 同时限制重试次数和总体截止时间。取消已放弃的任务，并在重试前释放每个失败响应的响应体。
5. 如果限流持续，请降低并发量。

不要自动重试结果不明确的任务提交，也不要重复执行已完成的工具操作。即使客户端未收到响应，请求也可能已到达提供商；重试可能导致重复处理和重复收费。对于已受理的视频或批处理任务，请使用其状态端点，而不要重新提交。

## 监控限流

按端点和模型跟踪 `429` 的发生率，并在请求日志中检查回退频率。将应用日志与[路由设置](../guides/routing-and-fallbacks.mdx)以及 BYOK 流量的提供商账户配额进行对比。

有关工作区的支出和访问控制，请参阅[预算](./endpoint/budgets-list.mdx)和[防护规则](./endpoint/guardrails.mdx)。


This documentation is built and hosted on [Mintlify](https://mintlify.com), a developer documentation platform.