如何檢查 AI 告訴你的內容

你將學到什麼

• 什麼是幻覺，以及它為什麼會發生
• 回答中哪些部分要先檢查：名稱、數字、日期、引言和連結
• 如何要求提供來源，然後自己查證
• 如何區分事實和 AI 的猜測

核心概念

不論內容是否正確，AI 工具都會寫出流暢、自信的文字。當工具產生聽起來正確、實際上卻是錯的內容，例如一本不存在的書，或一句沒有人說過的話，就稱為幻覺：充滿自信、卻是錯誤或捏造的輸出。會發生這種情況，是因為模型在預測可能出現的文字。它不是在說謊，也不知道自己什麼時候錯了。

你不需要檢查每一個字。要檢查的是一旦出錯就會造成傷害的部分。名稱、數字、日期、引言和連結是常見的風險點，任何涉及法律、醫療或財務的內容也是。每一項都要回到第一手來源：原始文件、官方網站、法規本身，或當事人自己發表的內容。重複同一說法的部落格文章，不算是證實。

你可以請 AI 提供來源。這有幫助，但不是最後一步。它引用的來源可能不存在、可能講的是別的事，也可能根本沒說 AI 所說的內容。打開來源，找到能佐證該說法的那一句。如果找不到，就把這個說法視為未經證實。

最後，請 AI 為自己的回答加上標記：哪些部分來自某個來源或你提供的素材，哪些部分是一般知識、猜測或意見。這些標記不一定正確，但能告訴你該先從哪裡查起。

範例

一位小店老闆問：

我的季度營業稅申報截止日是什麼時候？逾期的罰款是多少？請給我
官方規定的連結。

回答給了一個日期、一筆罰款金額和一個連結，讀起來很順。她一項一項檢查：

• 連結打開的是稅務機關網站上的頁面，但內容是另一份表單。
• 稅務機關針對她這種申報的官方頁面，列出的是她所在地區的另一個截止日。
• 她找得到的官方頁面都沒有提到逾期罰款。

她接著追問：

你的回答中，哪些部分來自你能指出的來源，哪些部分是一般知識或
猜測？請分成不同的清單。

AI 把罰款移到了猜測清單裡。她從官方頁面取得截止日，並打電話向稅務機關詢問罰款。AI 幫她看出要查什麼，但她據以行動的每一項事實，都來自第一手來源。

動手練習

1. 問任何一個 AI 工具一個你很熟悉的事實問題，例如關於你住的城鎮、你的工作或某個嗜好。
2. 請它附上至少兩個含連結的來源。
3. 在回答中的每一個名稱、數字、日期和引言下面畫線。
4. 打開每個來源，找出能佐證每一項畫線內容的確切句子。
5. 把每一項標記為已證實、錯誤或找不到。

最後你應該會有一份簡短的說法清單，每一項都標有狀態，也大概知道在你熟悉的領域裡，這個工具需要多少查證。如果要做比較長的研究，請接著看用 AI 做研究並查核引用。

複製這個範本

請回答這個問題：[你的問題]。

接著把你的回答分成三份清單：
1. 有來源可以讓我查證的事實。每一項都附上來源名稱和連結。
2. 不是取自特定來源的一般知識。
3. 猜測、假設或意見。

如果你對某個名稱、數字、日期或引言不確定，請在旁邊註明。
不要捏造來源。

要求 AI 標出不確定的地方，並不會讓它的回答變得正確。重要的部分還是要繼續查證。

檢查結果

• 每個連結都打得開嗎？是原始頁面或官方頁面嗎？
• 來源本身的文字，真的有說 AI 所說的內容嗎？
• 名稱拼寫正確嗎？日期和數字和來源完全一致嗎？
• 引言是一字不差的嗎？真的是那個人說的嗎？
• 就你的用途來說，這個來源夠新嗎？找找頁面上的日期。
• 猜測和事實有清楚分開嗎？

常見錯誤

• 只確認連結能打開。真實存在的頁面，內容也可能是別的事。找到能佐證該說法的那一句。
• 問同一個 AI 它是否確定。它可能會附和，或在沒有任何新證據的情況下改變答案。改去查第一手來源。
• 把自信的語氣當成正確的跡象。語氣完全無法告訴你真假。依據來源來判斷每一個說法。
• 用同樣的細心程度檢查所有內容。你的時間會不夠用。先從一旦出錯就會造成傷害的部分開始：金錢、健康、法律問題，以及任何你要發布或寄出的內容。