@support-triage。调用方把这个名称作为 model 发送,只需提供输入;Gateway 会在选择提供商之前补全其余部分。
切换下面的请求字段,看看哪个值会生效:
规则如下:
- 参数只填补空缺。 预设的默认参数只作用于请求中没有提供的字段。请求中的值总是优先。
- 系统提示词会叠加。 预设的提示词排在前面。如果请求带有自己的系统提示词或
instructions,它会在一个空行之后接上。 - 请求中的提供商设置优先。 请求中的
provider.order或provider.max_price等字段会替换预设中该字段的值。 - 允许列表只会收窄,不会放宽。 预设的提供商允许列表和忽略列表在选择提供商之前应用,因此也会限制回退可以使用哪些提供商。如果模型不在预设允许的模型范围内,请求会失败并返回
validation_error,其详情关键字为preset_model_not_allowed;请求不会被改道。
创建并使用预设
1
创建预设
打开控制台 -> 设置 -> 预设,创建一个标识符为
support-triage 之类的预设。只添加所有调用方都应共享的默认值。如需通过脚本创建,请使用管理密钥调用 POST /v1/presets。2
按名称调用
3
检查实际应用了什么
在 Gateway -> 用量 中打开该请求,查看应用了哪些预设默认值,以及由哪个提供商处理了它。
预设可以包含什么
把特定于调用方的逻辑留在你的应用中;当不同工作流需要不同的提示词、路由或缓存时,使用不同的预设。
为预设命名
通过model 字段发送预设;如果预设带有提示词模板,也可以通过 prompt.id 发送。没有单独的 preset 字段。
发布公开预设需要已启用的公开资料和用户名。用户名在整个 Phaseo 中唯一;标识符只需在同一发布者下唯一。标识符会被转为小写,可以包含字母、数字、
-、_、. 和 :。
管理版本与回滚
保存只会编辑私有草稿。发布新版本 会把草稿变成一个不可更改、带编号的发布版本,并保留之前的所有版本。 选择发布标签的格式:
把
production 这样的命名标签指向某个版本;要回滚,就把它移回较早的版本。参见版本和标签。
通过脚本时,请使用管理密钥,以 POST /v1/presets/{id}/versions 发布版本,并以 PUT /v1/presets/{id}/labels/{label} 移动标签。CLI 登录或采用“使用 Phaseo 登录”的应用可以读取预设,但不能更改。