核实输出
模型可能听起来很肯定却依然出错,所以要让它的回答有据可依,并在依赖它之前先测试。
模型写出的是最可能接下来出现的文本。大多数时候,这也是正确的。但当它不知道某件事时,它仍然可能写出一个流畅、自信却错误的回答。这被称为 幻觉。编造的事实、引文、链接和数字都是常见的例子。
让回答基于真实数据,并核对来源。 当事实就摆在模型面前时,它会可靠得多。把你自己的文档放进提示词,要求它只根据这些文档回答,并说明每个事实出自哪里。对于最新信息,可以添加 phaseo:web_search 服务器工具(Beta 阶段):模型会搜索网页,并根据结果写出回答,结果中包含你可以打开的 URL。一定要打开看看,因为模型也可能编造一个看起来很真实的链接。
用结构化输出获得可靠的结构。 如果你的代码需要读取回答,就随请求发送一个 JSON Schema。模型会返回该结构的 JSON,而不是自由文本。你的代码在使用结果之前仍然应该检查它,因为结构正确不代表内容正确。
降低 temperature 以获得一致性。 temperature 控制模型加入多少变化。较低的值会给出更稳定、更可重复的回答。对于提取、分类和 JSON,文档建议使用 0.0 到 0.2。
上线之前用真实示例测试。 收集真实的输入,包括杂乱和不寻常的输入,并人工检查回答。每次更改提示词或模型时,都要再测一遍。
检验你的理解
你的应用向模型询问一家公司的成立年份,你需要答案准确。最好的做法是什么?
学以致用
你构建了一个从发票中提取总额、日期和供应商的工具。演示时一切正常,但在生产环境中,你的代码有时会崩溃,因为模型回复了一句话而不是这些字段。你要改什么?
显示答案隐藏答案
使用结构化输出:发送一个包含所需字段的 JSON Schema,让模型返回该结构的 JSON。把 temperature 设得低一些,例如 0.0 到 0.2。在代码中先验证 JSON 再使用,并在上线之前用一批真实发票(包括杂乱的发票)进行测试。
要点
相关链接
最后核对于 2026年11月17日