跳转到主要内容
把多个服务迁移到同一个预设上,让它们共享提示、模型和提供商规则,然后用请求日志解释每个请求去了哪里。完成后,你的调用方只需发送 "model": "@release-summary" 和输入,你也可以把策略变更一次推行到一个调用方。 该请求结构可直接用于生产环境。预设说明了预设的设置如何与请求合并;本指南讲的是推行过程。

把调用方迁移到预设

1

创建预设

在设置 → 预设中创建 release-summary,包含系统提示、批准的模型、提供商偏好,以及 temperature 等默认参数。也可以使用管理密钥:
2

按名称调用

把预设作为 model 发送。没有单独的 preset 字段。
响应中的 model 是实际回答的模型,meta.routing.selected_provider 是提供商。
3

查看预设应用了什么

在设置 → 用量 → 日志中打开该请求。它会显示应用了哪些预设默认值。不在预设允许模型范围内的模型会以 validation_error(关键字 preset_model_not_allowed)失败,而不会被重新路由。

解释路由决策

当请求没有按你预期的方式路由时,在设置 → 用量 → 日志中展开该请求的路由可观测性。它回答三个问题: 解释路由决策介绍了每个字段。

推行策略变更

  1. 把变更发布为新的预设版本;如果策略差异很大,就创建一个新的 slug。
  2. 把一个低风险的调用方迁移过去,例如让它指向 @release-summary@v4 或 canary 标签。
  3. 将它的请求详情和用量趋势与其他调用方进行比较。
  4. 路由符合预期后,迁移其余调用方。要回滚,就把标签指回之前的版本。
版本与回滚介绍了版本和标签。对于不应放在预设中的请求级覆盖,请参见固定或忽略提供商。
最后修改于 2026年11月7日