核对事实与减少幻觉
“幻觉”通常指模型生成了看似可信但没有依据或不正确的内容。要求它“不要幻觉”有帮助,但不能替代验证。
四层核对
- 来源层: 链接是否存在,原文是否真的支持结论,日期是否适用。
- 计算层: 输入、单位、过滤条件与公式是否正确,能否手动复算。
- 约束层: 预算、长度、不可修改项和受众是否被遵守。
- 交付层: 文件是否真的生成,能否打开,格式是否可用。
一份语言流畅的报告可能在任意一层失败,所以不要只依赖模型自己的“已检查”。
让不确定性可见
请复核以上回答。把每条重要结论标为:来源直接支持、基于材料推断、
目前无法确认。列出对应依据。若找不到真实来源,请撤回该结论。
不要为了补齐表格而生成文献、链接或数字。
同一个模型可能重复同样的错误。让它自查能发现一部分问题,但重要事实仍需要打开原文或独立验证。
按风险分配时间
一条内部头脑风暴建议可以快速审阅;要发表的研究引用、要支付的金额、要执行的数据库操作则需要更严格复核。高风险专业问题应由具备资质的人判断。
建一张事实核对表
把需要核实的句子拆成独立主张。例如“工具 A 最便宜,所有套餐都支持导出”包含价格排序和功能范围两个不同结论,应分别找证据。
| 主张 | 应找什么证据 | 无法确认时怎么处理 |
|---|---|---|
| 目前最便宜 | 同一币种、周期、功能范围下的价格 | 改成已比较的范围内价格较低 |
| 所有套餐支持导出 | 各套餐功能表或帮助说明 | 列出已确认套餐,其余待核实 |
| 使用后效率提高 40% | 原始研究、样本与统计方法 | 去掉数字或明确只是个案 |
一条来源可以支持部分结论,不一定支持整句话。编辑时应缩小表述范围,而不是在句尾加一个链接就当作完成核对。
数字检查的简易方法
比较两个比例时,先区分百分点和相对变化。例如从 20% 上升到 25%,是增加 5 个百分点,相对增长 25%。单位、分母和时间范围不一致,比算术错误更常见。
对模型生成的计算,选几条输入自己复算,再核对总体结果。需要代码执行时,保存计算脚本和数据版本;只看到它展示公式,不能当作已经跑过程序。网页引用、数学计算和实际文件分别检查,避免一种检查通过后就放过其他部分。
来源检查实例
如果回答说“某报告显示效率提升 40%”,需要找到报告原文,检查样本、测试条件、统计口径及发布日期。没有这些背景,数字即使出现在网页上也可能不适合你的场景。