如何核对 AI 告诉你的内容

你将学到什么

• 什么是幻觉，以及它为什么会出现
• 回答中哪些部分要先检查：名字、数字、日期、引语和链接
• 如何索要来源，然后自己核对
• 如何把事实和 AI 的猜测区分开

核心概念

不管内容对不对，AI 工具写出来的文字都流畅而自信。如果工具生成了听起来没错、实际上却是错的内容，比如一本并不存在的书，或者一句没人说过的话，这就叫幻觉：自信但错误或凭空编造的输出。它的成因是模型在预测可能出现的文字。它不是在撒谎，也不知道自己什么时候错了。

你不需要检查每一个字。要检查的是那些一旦出错就会造成损害的部分。名字、数字、日期、引语和链接是常见的风险点，还有任何涉及法律、医疗或财务的内容。每一项都要去找一手来源：原始文件、官方网站、法律条文本身，或者当事人自己发表的内容。转述这个说法的博客文章不算证实。

你可以让 AI 提供来源。这有帮助，但不是最后一步。它引用的来源可能不存在，可能讲的是别的事情，也可能并没有说 AI 声称的内容。打开来源，找到支持这个说法的那句话。如果找不到，就把这个说法当作未经证实。

最后，让 AI 给自己的回答加上标注：哪些部分来自某个来源或你提供的材料，哪些部分是常识、猜测或观点。这些标注不一定准确，但能告诉你先看哪里。

示例

一位小企业主问：

我的季度销售税申报截止日期是哪天？逾期罚款是多少？
请给我官方规定的链接。

回答给出了一个日期、一笔罚款金额和一个链接，读起来很顺。她逐项核对：

• 链接打开的是税务局网站上的一个页面，但讲的是另一种表格。
• 税务局关于她这项申报的官方页面上，她所在地区的截止日期不一样。
• 她能找到的官方页面都没有提到逾期罚款。

她追问：

你的回答中，哪些部分来自你能指出的来源，哪些部分是常识或猜测？
请分成两个清单列出。

AI 把罚款移到了猜测清单里。她采用官方页面上的截止日期，并打电话向税务局询问罚款。AI 帮她看清了需要查什么，但她据以行动的每一个事实都来自一手来源。

动手练习

1. 就你很熟悉的事情问任意一个 AI 工具一个事实性问题，比如你所在的城镇、你的工作或某个爱好。
2. 要求它至少附上两个带链接的来源。
3. 在回答中的每个名字、数字、日期和引语下面画线。
4. 打开每个来源，为每个画线的内容找到支持它的原句。
5. 把每一项标为已证实、错误或未找到。

最后，你应该得到一份简短的说法清单，每一条都标有状态，并初步了解这个工具在你的领域需要多大程度的核对。如果要做更长的研究，请继续学习用 AI 做研究并核对引用。

复制这个模板

请回答这个问题：[你的问题]。

然后把你的回答分成三个清单：
1. 有我可以核对的来源的事实。每一条都给出来源名称和
   链接。
2. 不是来自某个具体来源的常识。
3. 猜测、假设或观点。

如果你对某个名字、数字、日期或引语不确定，请在旁边注明。
不要编造来源。

要求 AI 标出不确定的地方，并不会让它的回答变得正确。重要的部分仍要继续核对。

检查结果

• 每个链接都能打开吗？它是原始页面或官方页面吗？
• 来源用它自己的话说了 AI 声称的内容吗？
• 名字拼写正确吗？日期和数字与来源完全一致吗？
• 引语是一字不差的吗？确实是那个人说的吗？
• 对你的用途来说，这个来源够新吗？在页面上找一下日期。
• 猜测和事实清楚地分开了吗？

常见错误

• 只检查链接能不能打开。一个真实存在的页面也可能讲的是别的事情。找到支持这个说法的那句话。
• 问同一个 AI 它是否确定。它可能会附和，也可能改口，却没有任何新证据。改为去查一手来源。
• 把自信的语气当作准确的标志。语气说明不了真假。根据来源判断每一个说法。
• 对所有内容都同样仔细地检查。你会没有时间。先查那些一旦出错就会造成损害的内容：钱、健康、法律问题，以及任何你要发布或发送的内容。