AI 能为你做什么，不能做什么

你将学到什么

• 生成式 AI 工具擅长什么，又在哪些方面薄弱
• 为什么 AI 工具可能说得很肯定，却仍然是错的
• 如何挑选一个适合这类工具工作方式的入门任务

核心概念

大多数人最先接触的 AI 聊天工具属于生成式 AI，也就是根据你的请求创作新的文字、图像或其他内容。大多数文字类工具的底层是大语言模型，这是一种用海量文字训练出来、用来预测接下来最可能出现哪些词的系统。它并不像工具书那样“知道”事情。它生成的是一个符合你问题模式的回答。

这种设计让这些工具在“好的初稿比精确的事实更重要”的场合很有用：起草邮件、用更简单的话解释一个概念、总结你粘贴进去的长文、为名字或角度出主意，以及把杂乱的笔记重新整理成表格或清单。

同样的设计也解释了它的弱点。精确的事实、名字、价格和日期可能会出错，语气却依然自信。近期的事件可能缺失，因为模型的知识止于它的知识截止日期，也就是在那之后它没有再用新信息训练过的时间点。数学计算可能出错，所以任何重要的数字都要核对。而且，你没有告诉它的情况，它不可能知道。

有些工具可以搜索网络，或者读取你上传的文件。这样，工具就能处理更新或更具体的信息，但它仍然可能读错或转述错它找到的内容。搜索改变的是 AI 能看到什么。它并不能免去核对的必要。

示例

一个学生需要给讲师发邮件，说明作业迟交的事。下面是一种不太好的用法：

我们大学的迟交作业政策是什么？

除非工具去搜索并找到了正确的页面，否则它没有办法知道你们大学的政策。不搜索的话，它可能会写出一个听起来很真实、实际上并不存在的政策。更好的分工是：自己去找政策，用 AI 来写邮件：

帮我给讲师写一封简短、礼貌的邮件。我因为生病，论文晚交了两天。
我有医生开的证明。我想问一下这周还能不能交。控制在 120 字以内。

第二个请求用的是工具擅长的部分：起草、语气和结构。而事实，比如日期、证明和请求本身，都来自学生自己。

动手练习

1. 打开任意一个你能使用的 AI 聊天工具。如果你还没有，帮我选可以给你推荐一个起点。
2. 让它用三个简短的段落解释一个你已经很熟悉的主题。
3. 读一读回答，把每一句标为正确、部分正确或错误。
4. 向同一个工具问一个关于最近几天发生的事情的问题。
5. 比较这两个回答。记下它在哪里有用，又在哪里是在猜，或者说了自己不知道。

最后，你应该得到一份简短的清单，列出这个工具做得好的地方，以及至少一处它弄错了或不可能知道的地方。

复制这个模板

我想请你帮忙[任务，例如：起草、解释、总结、出主意或
重新整理格式]。

你需要知道的信息是：[我提供的事实和细节]。

请给我[你想要的形式，例如：一封简短的邮件、五个要点、
一个表格]。

如果你的回答中有任何部分依赖于我没有提供的事实，请把这些部分
单独列出来，并说明你对它们不确定。

要求 AI 标出不确定的地方，并不会让它的回答变得正确。重要的部分仍要继续核对。

检查结果

• 它是否只用了你提供的事实，还是加上了新的事实？
• 其中的名字、数字、日期和引语，你能在别处确认吗？
• 有没有哪些内容依赖于工具可能并不知道的近期事件？
• 如果它做了数学计算，你自己核对过结果吗？
• 这个结果对你的任务真的有用吗？还是只是读起来很顺？

常见错误

• 把 AI 当作查找精确事实的搜索引擎。流畅的回答不等于核对过的回答。到可信的来源查找事实，用 AI 来做围绕这些事实的写作和思考。
• 以为它了解你。它只知道对话里的内容。给它需要的细节，但不要放入隐私数据，比如证件号码、密码或他人的个人信息。
• 因为数字看起来很精确就相信它们。看起来很精确的数字照样可能是错的。凡是你要依赖的数字，都重新算一遍。
• 一个回答不理想就放弃。含糊的请求只会得到含糊的结果。像提出你的第一个问题里讲的那样，换一个更清晰的任务再试一次。