كيف تتحقق مما يخبرك به الذكاء الاصطناعي

ما ستتعلمه

• ما الهلوسة ولماذا تحدث
• ما الأجزاء التي تتحقق منها أولًا في الإجابة: الأسماء والأرقام والتواريخ والاقتباسات والروابط
• كيف تطلب المصادر ثم تتحقق منها بنفسك
• كيف تفصل المعلومات المؤكدة عن تخمينات الذكاء الاصطناعي

الفكرة

تكتب أدوات الذكاء الاصطناعي نصًا سلسًا وواثقًا سواء كان المحتوى صحيحًا أم لا. وعندما تنتج الأداة شيئًا يبدو صحيحًا لكنه خاطئ، مثل كتاب غير موجود أو اقتباس لم يقله أحد، يسمى ذلك هلوسة: مخرجات واثقة لكنها خاطئة أو مختلقة. ويحدث ذلك لأن النموذج يتوقع النص المرجح. فهو لا يكذب، ولا يعرف متى يكون مخطئًا.

لا تحتاج إلى التحقق من كل كلمة. تحقق من الأجزاء التي قد تسبب ضررًا لو كانت خاطئة. الأسماء والأرقام والتواريخ والاقتباسات والروابط هي مواضع الخطر المعتادة، ومعها كل ما هو قانوني أو طبي أو مالي. ولكل منها، ارجع إلى مصدر أولي: الوثيقة الأصلية، أو الموقع الرسمي، أو نص القانون نفسه، أو ما نشره الشخص بنفسه. والتدوينة التي تكرر الادعاء لا تكفي لتأكيده.

يمكنك أن تطلب من الذكاء الاصطناعي مصادر. هذا يساعد، لكنه ليس الخطوة الأخيرة. فقد يكون المصدر المذكور غير موجود، أو عن موضوع آخر، أو لا يقول ما يدعيه الذكاء الاصطناعي. افتحه وابحث عن الجملة التي تدعم الادعاء. وإذا لم تجدها، فاعتبر الادعاء غير مؤكد.

وأخيرًا، اطلب من الذكاء الاصطناعي أن يصنف إجابته بنفسه: أي الأجزاء مأخوذ من مصدر أو من مواد قدمتها له، وأيها معرفة عامة أو تخمينات أو آراء. هذه التصنيفات ليست صحيحة دائمًا، لكنها تريك أين تبحث أولًا.

مثال

صاحبة مشروع صغير تسأل:

متى الموعد النهائي لتقديم إقرار ضريبة المبيعات ربع السنوي، وما غرامة
التأخير؟ أعطني رابطًا إلى القاعدة الرسمية.

تقدم الإجابة تاريخًا وغرامة ورابطًا، وتبدو مقنعة. فتتحقق من كل جزء:

• الرابط يفتح صفحة على موقع مصلحة الضرائب، لكنها عن نموذج آخر.
• صفحة مصلحة الضرائب الخاصة بإقرارها تذكر موعدًا نهائيًا مختلفًا لمنطقتها.
• غرامة التأخير غير مذكورة في أي صفحة رسمية استطاعت العثور عليها.

فترسل رسالة متابعة:

أي أجزاء إجابتك مأخوذة من مصدر يمكنك الإشارة إليه، وأيها معرفة عامة
أو تخمين؟ ضعها في قائمتين منفصلتين.

ينقل الذكاء الاصطناعي الغرامة إلى قائمة التخمينات. فتأخذ الموعد النهائي من الصفحة الرسمية وتتصل بمصلحة الضرائب بشأن الغرامة. ساعدها الذكاء الاصطناعي على معرفة ما يجب البحث عنه، لكن كل معلومة تصرفت بناءً عليها جاءت من المصدر الأولي.

تدرب الآن

1. اسأل أي أداة ذكاء اصطناعي سؤالًا عن معلومات في موضوع تعرفه جيدًا، مثل مدينتك أو عملك أو إحدى هواياتك.
2. اطلب منها أن تذكر مصدرين على الأقل مع روابطهما.
3. ضع خطًا تحت كل اسم ورقم وتاريخ واقتباس في الإجابة.
4. افتح كل مصدر وابحث عن الجملة الدقيقة التي تدعم كل عنصر وضعت تحته خطًا.
5. صنف كل عنصر: مؤكد أو خاطئ أو لم أعثر عليه.

في النهاية يجب أن تكون لديك قائمة قصيرة بالادعاءات مع حالة كل منها، وفكرة أولية عن مدى حاجة هذه الأداة إلى التحقق في مجالك. وللبحث الأطول، تابع مع درس ابحث بالذكاء الاصطناعي وتحقق من الاستشهادات.

انسخ هذا القالب

أجب عن هذا السؤال: [سؤالك].

ثم قسم إجابتك إلى ثلاث قوائم:
1. معلومات لها مصدر يمكنني التحقق منه. اذكر اسم المصدر ورابطه لكل
   واحدة منها.
2. معرفة عامة لم تأخذها من مصدر محدد.
3. تخمينات أو افتراضات أو آراء.

إذا لم تكن متأكدًا من اسم أو رقم أو تاريخ أو اقتباس، فاذكر ذلك بجانبه.
لا تختلق مصادر.

أن تطلب من الذكاء الاصطناعي الإشارة إلى ما لا يتأكد منه لا يجعل إجابته صحيحة. واصل التحقق من الأجزاء المهمة.

تحقق من النتيجة

• هل يفتح كل رابط، وهل هو الصفحة الأصلية أو الرسمية؟
• هل يقول المصدر ما يدعيه الذكاء الاصطناعي، بكلماته هو؟
• هل الأسماء مكتوبة بشكل صحيح، وهل تطابق التواريخ والأرقام المصدر تمامًا؟
• هل الاقتباسات حرفية، وهل قالها الشخص المذكور فعلًا؟
• هل المصدر حديث بما يكفي لغرضك؟ ابحث عن تاريخ على الصفحة.
• هل التخمينات مفصولة بوضوح عن المعلومات المؤكدة؟

أخطاء شائعة

• الاكتفاء بالتحقق من أن الرابط يعمل. قد تكون الصفحة حقيقية لكنها عن موضوع آخر. ابحث عن الجملة التي تدعم الادعاء.
• سؤال الذكاء الاصطناعي نفسه إن كان متأكدًا. قد يوافق، أو يغير إجابته، دون أي دليل جديد. تحقق من مصدر أولي بدلًا من ذلك.
• اعتبار النبرة الواثقة علامة على الدقة. النبرة لا تخبرك بشيء عن الحقيقة. احكم على كل ادعاء من خلال مصدره.
• التحقق من كل شيء بالعناية نفسها. سينفد وقتك. ابدأ بما قد يسبب ضررًا لو كان خاطئًا: المال والصحة والمسائل القانونية، وأي شيء ستنشره أو ترسله.