重试失败的模型请求
0。每个步骤都会在它的模型尝试次数字段(modelAttempts、model_attempts 或 ModelAttempts)中记录尝试了几次。只有模型请求会被重试:工具错误遵循工具自己的错误策略,所以请把有副作用的工具的重试放在工具内部,并让它们具备幂等性。
两次尝试之间的等待时间,以及哪些错误会被重试,因语言而异:
使用线性等待和 500 ms 退避时,三次重试分别等待 0.5 s、1 s 和 1.5 s。
校验最终输出
当模型不调用工具直接回答时,解析器会把最终文本转换为你的值,schema 再对它进行检查。只要其中任何一步失败,运行就会以Invalid agent output: ... 错误失败,因此错误的输出会止步于智能体边界。请让校验器保持确定性且没有副作用。
如果要让模型行为更严格,还可以要求网关返回结构化输出。在网关智能体客户端上设置 JSON Schema 响应格式(以及可选的 response-healing 插件):
response_format/responseFormat 和 plugins 选项。Go、C# 和 Java 没有响应格式选项;请通过客户端用于其他请求字段的扩展入口设置该字段(见下一节)。
把路由默认值放在预设中
当路由、提示词或参数默认值应保留在控制台中时,在智能体上设置preset(Go 和 C# 中为 Preset):
preset 选项。
在客户端上设置网关默认值
网关智能体客户端(createGatewayAgentClient()、create_gateway_agent_client()、CreateGatewayAgentClient)为每个模型轮次携带请求默认值,所以你不必在每次运行时重新构建它们。model、input、instructions 和函数工具仍由智能体负责;只有当智能体没有设置模型时,才会使用默认模型。
Java 和 Rust 接受的选项更少:
Responses 参数页面解释了每个字段。要从结果中读取用量、费用和状态,参见可观测性。