tools 中描述你的函数,模型就会以调用其中某个函数(例如查询数据库或检查天气)来回答,而不是猜测。你的应用运行该函数并把结果发回;然后模型写出最终回答。
三个文本端点都支持工具调用,各自使用自己的格式:
发送带工具的请求
tool_choice 强制模型调用该工具。省略它,或设为 "auto",就由模型决定。
模型会以调用而不是文本来回复:
arguments;请参阅工具调用安全。然后在下一个请求中把助手消息和你的结果发回。工具调用模式展示了 Chat Completions 和 Responses 的这种后续请求。
让 Phaseo 运行工具
类型以phaseo: 开头的工具在 Phaseo 一侧运行:模型调用它们,Phaseo 执行它们并继续循环,你无需编写执行器就能得到最终回答。你可以在一个请求中把它们与你自己的函数混合使用。
流式工具调用
工具调用请求接受stream: true。函数调用参数会分段到达;先全部收集,再解析调用。当服务器工具运行时,Phaseo 会完成该工具轮次、运行工具、让模型继续,并把回答的其余部分流式发送给你,因此你的客户端仍然只读取一个流。请参阅流式传输。
如果回答必须符合某个 Schema 而不是调用函数,请使用结构化输出。