跳到主要内容

核对事实与减少幻觉

“幻觉”通常指模型生成了看似可信但没有依据或不正确的内容。要求它“不要幻觉”有帮助,但不能替代验证。

四层核对​

  1. 来源层: 链接是否存在,原文是否真的支持结论,日期是否适用。
  2. 计算层: 输入、单位、过滤条件与公式是否正确,能否手动复算。
  3. 约束层: 预算、长度、不可修改项和受众是否被遵守。
  4. 交付层: 文件是否真的生成,能否打开,格式是否可用。

一份语言流畅的报告可能在任意一层失败,所以不要只依赖模型自己的“已检查”。

让不确定性可见​

请复核以上回答。把每条重要结论标为:来源直接支持、基于材料推断、
目前无法确认。列出对应依据。若找不到真实来源,请撤回该结论。
不要为了补齐表格而生成文献、链接或数字。

同一个模型可能重复同样的错误。让它自查能发现一部分问题,但重要事实仍需要打开原文或独立验证。

按风险分配时间​

一条内部头脑风暴建议可以快速审阅;要发表的研究引用、要支付的金额、要执行的数据库操作则需要更严格复核。高风险专业问题应由具备资质的人判断。

建一张事实核对表​

把需要核实的句子拆成独立主张。例如“工具 A 最便宜,所有套餐都支持导出”包含价格排序和功能范围两个不同结论,应分别找证据。

主张应找什么证据无法确认时怎么处理
目前最便宜同一币种、周期、功能范围下的价格改成已比较的范围内价格较低
所有套餐支持导出各套餐功能表或帮助说明列出已确认套餐,其余待核实
使用后效率提高 40%原始研究、样本与统计方法去掉数字或明确只是个案

一条来源可以支持部分结论,不一定支持整句话。编辑时应缩小表述范围,而不是在句尾加一个链接就当作完成核对。

数字检查的简易方法​

比较两个比例时,先区分百分点和相对变化。例如从 20% 上升到 25%,是增加 5 个百分点,相对增长 25%。单位、分母和时间范围不一致,比算术错误更常见。

对模型生成的计算,选几条输入自己复算,再核对总体结果。需要代码执行时,保存计算脚本和数据版本;只看到它展示公式,不能当作已经跑过程序。网页引用、数学计算和实际文件分别检查,避免一种检查通过后就放过其他部分。

来源检查实例​

如果回答说“某报告显示效率提升 40%”,需要找到报告原文,检查样本、测试条件、统计口径及发布日期。没有这些背景,数字即使出现在网页上也可能不适合你的场景。

进一步阅读:联网搜索 · 数据分析。