第 3/3 节课 · 7 分钟

核实输出

模型可能听起来很肯定却依然出错,所以要让它的回答有据可依,并在依赖它之前先测试。

模型写出的是最可能接下来出现的文本。大多数时候,这也是正确的。但当它不知道某件事时,它仍然可能写出一个流畅、自信却错误的回答。这被称为 幻觉。编造的事实、引文、链接和数字都是常见的例子。

让回答基于真实数据,并核对来源。 当事实就摆在模型面前时,它会可靠得多。把你自己的文档放进提示词,要求它只根据这些文档回答,并说明每个事实出自哪里。对于最新信息,可以添加 phaseo:web_search 服务器工具(Beta 阶段):模型会搜索网页,并根据结果写出回答,结果中包含你可以打开的 URL。一定要打开看看,因为模型也可能编造一个看起来很真实的链接。

用结构化输出获得可靠的结构。 如果你的代码需要读取回答,就随请求发送一个 JSON Schema。模型会返回该结构的 JSON,而不是自由文本。你的代码在使用结果之前仍然应该检查它,因为结构正确不代表内容正确。

降低 temperature 以获得一致性。 temperature 控制模型加入多少变化。较低的值会给出更稳定、更可重复的回答。对于提取、分类和 JSON,文档建议使用 0.0 到 0.2。

上线之前用真实示例测试。 收集真实的输入,包括杂乱和不寻常的输入,并人工检查回答。每次更改提示词或模型时,都要再测一遍。

检验你的理解

你的应用向模型询问一家公司的成立年份,你需要答案准确。最好的做法是什么?

学以致用

你构建了一个从发票中提取总额、日期和供应商的工具。演示时一切正常,但在生产环境中,你的代码有时会崩溃,因为模型回复了一句话而不是这些字段。你要改什么?

显示答案

使用结构化输出:发送一个包含所需字段的 JSON Schema,让模型返回该结构的 JSON。把 temperature 设得低一些,例如 0.0 到 0.2。在代码中先验证 JSON 再使用,并在上线之前用一批真实发票(包括杂乱的发票)进行测试。

要点

把模型的回答当作草稿:让它基于真实来源,要求固定的结构,保持较低的 temperature 以求一致,并用真实示例测试。

相关链接

进度保存在此浏览器中。

最后核对于 2026年11月17日