Cách kiểm tra những gì AI nói với bạn

Bạn sẽ học được gì

• Ảo giác là gì và vì sao nó xảy ra
• Nên kiểm tra phần nào của câu trả lời trước: tên, con số, ngày tháng, trích dẫn và đường link
• Cách yêu cầu nguồn rồi tự mình kiểm tra chúng
• Cách tách dữ kiện khỏi những phỏng đoán của AI

Ý tưởng

Các công cụ AI viết ra văn bản trôi chảy, tự tin dù nội dung có đúng hay không. Khi một công cụ tạo ra điều gì đó nghe có vẻ đúng nhưng lại sai, chẳng hạn một cuốn sách không tồn tại hoặc một câu nói chưa ai từng nói, điều đó được gọi là ảo giác: đầu ra tự tin nhưng sai hoặc bịa đặt. Nó xảy ra vì mô hình dự đoán văn bản có khả năng xuất hiện. Nó không nói dối, và nó không biết khi nào mình sai.

Bạn không cần kiểm tra từng chữ. Hãy kiểm tra những phần sẽ gây hại nếu chúng sai. Tên, con số, ngày tháng, trích dẫn và đường link là những điểm rủi ro thường gặp, cùng với mọi thứ liên quan đến pháp lý, y tế hoặc tài chính. Với mỗi phần, hãy tìm đến nguồn chính gốc: tài liệu gốc, trang web chính thức, chính văn bản luật, hoặc ấn phẩm của chính người đó. Một bài blog nhắc lại khẳng định đó không được tính là xác nhận.

Bạn có thể yêu cầu AI đưa nguồn. Điều đó có ích, nhưng đó không phải bước cuối cùng. Một nguồn được trích dẫn có thể không tồn tại, có thể nói về chuyện khác, hoặc có thể không nói điều mà AI khẳng định. Hãy mở nó ra và tìm câu ủng hộ khẳng định đó. Nếu bạn không tìm thấy, hãy coi khẳng định đó là chưa được xác nhận.

Cuối cùng, hãy yêu cầu AI tự gắn nhãn cho câu trả lời của nó: phần nào đến từ một nguồn hoặc từ tài liệu bạn đưa, và phần nào là kiến thức chung, phỏng đoán hoặc ý kiến. Các nhãn này không phải lúc nào cũng đúng, nhưng chúng cho bạn biết nên xem chỗ nào trước.

Ví dụ

Một chủ doanh nghiệp nhỏ hỏi:

Hạn chót nộp tờ khai thuế bán hàng hằng quý của tôi là khi nào, và
phí nộp muộn là bao nhiêu? Cho tôi đường link đến quy định chính thức.

Câu trả lời đưa ra một ngày, một mức phí và một đường link. Nó đọc rất ổn. Cô kiểm tra từng phần:

• Đường link mở ra một trang trên website của cơ quan thuế, nhưng trang đó nói về một biểu mẫu khác.
• Chính trang của cơ quan thuế về tờ khai của cô ghi một hạn chót khác cho khu vực của cô.
• Mức phí nộp muộn không được nhắc đến trên bất kỳ trang chính thức nào cô tìm được.

Cô hỏi tiếp:

Những phần nào trong câu trả lời của bạn đến từ một nguồn bạn có thể chỉ
ra, và những phần nào là kiến thức chung hoặc phỏng đoán? Hãy xếp chúng
vào các danh sách riêng.

AI chuyển mức phí sang danh sách phỏng đoán. Cô lấy hạn chót từ trang chính thức và gọi điện cho cơ quan thuế để hỏi về mức phí. AI đã giúp cô thấy cần tra cứu những gì, nhưng mọi dữ kiện cô dựa vào để hành động đều đến từ nguồn chính gốc.

Thực hành ngay

1. Hỏi bất kỳ công cụ AI nào một câu hỏi về dữ kiện liên quan đến điều bạn biết rõ, chẳng hạn thị trấn, công việc hoặc sở thích của bạn.
2. Yêu cầu nó đưa kèm ít nhất hai nguồn có đường link.
3. Gạch chân mọi tên, con số, ngày tháng và trích dẫn trong câu trả lời.
4. Mở từng nguồn và tìm đúng câu ủng hộ từng mục đã gạch chân.
5. Đánh dấu từng mục là đã xác nhận, sai hoặc không tìm thấy.

Cuối cùng, bạn sẽ có một danh sách ngắn các khẳng định kèm trạng thái của từng cái, và cảm nhận ban đầu về mức độ cần kiểm tra công cụ này trong lĩnh vực của bạn. Để nghiên cứu sâu hơn, hãy tiếp tục với bài Nghiên cứu với AI và kiểm tra trích dẫn.

Sao chép mẫu này

Hãy trả lời câu hỏi này: [câu hỏi của bạn].

Sau đó chia câu trả lời của bạn thành ba danh sách:
1. Dữ kiện có nguồn mà tôi có thể kiểm tra. Ghi tên nguồn và đường link
   cho từng dữ kiện.
2. Kiến thức chung mà bạn không lấy từ một nguồn cụ thể.
3. Phỏng đoán, giả định hoặc ý kiến.

Nếu bạn không chắc về một cái tên, con số, ngày tháng hoặc trích dẫn,
hãy ghi rõ bên cạnh nó. Đừng bịa ra nguồn.

Yêu cầu AI nêu chỗ nó không chắc chắn không làm cho câu trả lời của nó đúng. Hãy tiếp tục kiểm tra những phần quan trọng.

Kiểm tra kết quả

• Mọi đường link có mở được không, và đó có phải là trang gốc hoặc trang chính thức không?
• Nguồn có nói đúng điều AI khẳng định, bằng chính lời của nó không?
• Tên có được viết đúng chính tả không, và ngày tháng, con số có khớp chính xác với nguồn không?
• Trích dẫn có đúng từng chữ, và có đúng là do người được nêu tên nói không?
• Nguồn có đủ mới cho mục đích của bạn không? Hãy tìm ngày tháng trên trang.
• Các phỏng đoán có được tách rõ khỏi dữ kiện không?

Lỗi thường gặp

• Chỉ kiểm tra xem đường link có hoạt động không. Một trang có thật vẫn có thể nói về chuyện khác. Hãy tìm câu ủng hộ khẳng định đó.
• Hỏi lại chính AI đó xem nó có chắc không. Nó có thể đồng ý, hoặc đổi câu trả lời, mà không có bằng chứng mới nào. Thay vào đó, hãy kiểm tra một nguồn chính gốc.
• Coi giọng văn tự tin là dấu hiệu của độ chính xác. Giọng văn không cho bạn biết gì về sự thật. Hãy đánh giá từng khẳng định dựa trên nguồn của nó.
• Kiểm tra mọi thứ với cùng một mức cẩn thận. Bạn sẽ không đủ thời gian. Hãy bắt đầu với những gì sẽ gây hại nếu sai: tiền bạc, sức khỏe, vấn đề pháp lý, và mọi thứ bạn sẽ đăng tải hoặc gửi đi.