跳转到主要内容
设置模型重试策略,即可在运行中重试失败的模型请求;设置解析器或 schema,即可在最终回答到达应用其他部分之前,把它变成经过检查的值。网关默认值(例如提供商或严格的响应格式)设置在网关智能体客户端上。

重试失败的模型请求

重试次数是第一次请求之后额外尝试的次数,默认为 0。每个步骤都会在它的模型尝试次数字段(modelAttempts、model_attempts 或 ModelAttempts)中记录尝试了几次。只有模型请求会被重试:工具错误遵循工具自己的错误策略,所以请把有副作用的工具的重试放在工具内部,并让它们具备幂等性。 两次尝试之间的等待时间,以及哪些错误会被重试,因语言而异: 使用线性等待和 500 ms 退避时,三次重试分别等待 0.5 s、1 s 和 1.5 s。

校验最终输出

当模型不调用工具直接回答时,解析器会把最终文本转换为你的值,schema 再对它进行检查。只要其中任何一步失败,运行就会以 Invalid agent output: ... 错误失败,因此错误的输出会止步于智能体边界。请让校验器保持确定性且没有副作用。
如果要让模型行为更严格,还可以要求网关返回结构化输出。在网关智能体客户端上设置 JSON Schema 响应格式(以及可选的 response-healing 插件):
Python、PHP 和 Ruby 接受相同的 response_format/responseFormat 和 plugins 选项。Go、C# 和 Java 没有响应格式选项;请通过客户端用于其他请求字段的扩展入口设置该字段(见下一节)。

把路由默认值放在预设中

当路由、提示词或参数默认值应保留在控制台中时,在智能体上设置 preset(Go 和 C# 中为 Preset):
Rust 没有 preset 选项。

在客户端上设置网关默认值

网关智能体客户端(createGatewayAgentClient()、create_gateway_agent_client()、CreateGatewayAgentClient)为每个模型轮次携带请求默认值,所以你不必在每次运行时重新构建它们。model、input、instructions 和函数工具仍由智能体负责;只有当智能体没有设置模型时,才会使用默认模型。 Java 和 Rust 接受的选项更少: Responses 参数页面解释了每个字段。要从结果中读取用量、费用和状态,参见可观测性。
最后修改于 2026年11月5日