跳转到主要内容
在单个请求中添加 provider 对象,即可改变由哪些提供商处理它,而无需改动工作区默认设置或预设。完成后,你可以设定优先顺序、把请求限制在允许列表内,或跳过某个提供商,并在响应中看到是哪个提供商回答的。 这些请求结构可直接用于生产环境。提供商 slug 是真实示例;请在模型页面上查看为你的模型提供服务的提供商。 如果要只使用一个提供商并关闭跨提供商回退,请改为把它放在模型 ID 前面:参见固定一个提供商。

按设定顺序尝试提供商

meta: true 会在响应中添加 meta.routing.selected_provider,这样你无需打开日志就能核对结果。

将请求限制在允许列表内

发送 only,并可选择发送 sort 在该列表内排序:
如果列表中没有任何提供商提供该模型,请求会失败,而不会跳出列表。

跳过一个提供商

当某个提供商性能下降,或你在测试另一条路径时,发送 ignore:

组合使用

用 only 限定候选范围,用 order 设定范围内的优先顺序,用 sort 对其余提供商排序。下面的请求会停留在 Google Vertex 上,先尝试欧盟区域,再按延迟排序:

查看请求去了哪里

在设置 → 用量 → 日志中打开该请求,展开路由可观测性。其中列出了在排序前被排除的提供商及原因,以及参与排序的候选提供商和它们的分数;解释路由决策介绍了每个字段。 请求级规则适用于临时的、只针对某个调用方的,或与某个用户流程绑定的覆盖设置。一旦同样的规则出现在多个服务中,就把它们移到预设里,在那里它们还会限制回退可以使用哪些提供商。要比较排序方式,请参见对提供商排序。
最后修改于 2026年11月5日