provider 对象,即可改变由哪些提供商处理它,而无需改动工作区默认设置或预设。完成后,你可以设定优先顺序、把请求限制在允许列表内,或跳过某个提供商,并在响应中看到是哪个提供商回答的。
这些请求结构可直接用于生产环境。提供商 slug 是真实示例;请在模型页面上查看为你的模型提供服务的提供商。
如果要只使用一个提供商并关闭跨提供商回退,请改为把它放在模型 ID 前面:参见固定一个提供商。
按设定顺序尝试提供商
meta: true 会在响应中添加 meta.routing.selected_provider,这样你无需打开日志就能核对结果。
将请求限制在允许列表内
发送only,并可选择发送 sort 在该列表内排序:
跳过一个提供商
当某个提供商性能下降,或你在测试另一条路径时,发送ignore:
组合使用
用only 限定候选范围,用 order 设定范围内的优先顺序,用 sort 对其余提供商排序。下面的请求会停留在 Google Vertex 上,先尝试欧盟区域,再按延迟排序: