检查清单
- 保持 Schema 小而明确。 字段越少、类型越明确,模型发送意外内容的空间就越小。
- 在执行前验证解析出的参数,如上所示。
- 拒绝未知的工具名称,而不是猜测模型的意图。
- 为访问外部系统的调用添加超时和重试。
- 记录调用 ID、工具名称以及任何验证失败。
验证失败时
不要运行工具。在下一轮中把一条简短、受控的错误作为工具结果发送,并让模型用更正后的参数重试。流式传输
使用stream: true 时,参数会分段到达。在解析、验证或运行某个调用之前,先收集它的所有参数增量。工具调用是否流式传输取决于模型和提供商。请参阅流式传输。