AI जो बताए, उसे कैसे जाँचें

आप क्या सीखेंगे

• हैलुसिनेशन क्या है और ऐसा क्यों होता है
• जवाब के कौन-से हिस्से पहले जाँचें: नाम, संख्याएँ, तारीखें, उद्धरण और लिंक
• स्रोत कैसे माँगें और फिर खुद उनकी जाँच कैसे करें
• तथ्यों को AI के अंदाज़ों से अलग कैसे करें

मूल विचार

AI टूल धाराप्रवाह और आत्मविश्वास भरा टेक्स्ट लिखते हैं, चाहे बात सही हो या नहीं। जब कोई टूल ऐसा कुछ लिखता है जो सुनने में सही लगे पर गलत हो, जैसे कोई ऐसी किताब जो है ही नहीं या ऐसा उद्धरण जो किसी ने कहा ही नहीं, तो उसे हैलुसिनेशन कहते हैं: आत्मविश्वास से दिया गया ऐसा आउटपुट जो गलत या मनगढ़ंत हो। ऐसा इसलिए होता है क्योंकि मॉडल संभावित टेक्स्ट का अनुमान लगाता है। वह झूठ नहीं बोल रहा, और उसे पता नहीं होता कि वह कब गलत है।

आपको हर शब्द जाँचने की ज़रूरत नहीं है। वे हिस्से जाँचें जो गलत होने पर नुकसान कर सकते हैं। नाम, संख्याएँ, तारीखें, उद्धरण और लिंक आम तौर पर जोखिम वाली जगहें होती हैं, और साथ में कानूनी, मेडिकल या पैसों से जुड़ी हर बात। हर एक के लिए प्राथमिक स्रोत तक जाएँ: मूल दस्तावेज़, आधिकारिक वेबसाइट, खुद कानून, या उस व्यक्ति का अपना प्रकाशन। दावे को दोहराने वाली कोई ब्लॉग पोस्ट पुष्टि नहीं मानी जाती।

आप AI से स्रोत माँग सकते हैं। इससे मदद मिलती है, पर यह आखिरी कदम नहीं है। बताया गया स्रोत शायद मौजूद ही न हो, किसी और विषय पर हो, या उसमें वह न लिखा हो जो AI दावा करता है। उसे खोलें और वह वाक्य ढूँढें जो दावे का समर्थन करता है। अगर वह न मिले, तो दावे को अपुष्ट मानें।

आखिर में, AI से अपने जवाब पर लेबल लगाने को कहें: कौन-से हिस्से किसी स्रोत से या आपकी दी हुई सामग्री से आए हैं, और कौन-से हिस्से आम जानकारी, अंदाज़े या राय हैं। ये लेबल हमेशा सही नहीं होते, पर इनसे पता चलता है कि पहले कहाँ देखना है।

उदाहरण

एक छोटे व्यवसाय की मालकिन पूछती है:

मेरा तिमाही सेल्स टैक्स रिटर्न फ़ाइल करने की आखिरी तारीख कब है, और
देरी का जुर्माना कितना है? मुझे आधिकारिक नियम का लिंक दें।

जवाब में एक तारीख, एक जुर्माना और एक लिंक है। पढ़ने में अच्छा लगता है। वह हर हिस्सा जाँचती है:

• लिंक टैक्स विभाग की वेबसाइट का एक पेज खोलता है, लेकिन वह किसी दूसरे फ़ॉर्म के बारे में है।
• उसके रिटर्न के लिए टैक्स विभाग का अपना पेज उसके इलाके के लिए अलग आखिरी तारीख बताता है।
• देरी के जुर्माने का ज़िक्र उसे मिले किसी भी आधिकारिक पेज पर नहीं है।

वह एक फ़ॉलो-अप सवाल पूछती है:

आपके जवाब के कौन-से हिस्से ऐसे स्रोत से आए हैं जिसे आप दिखा सकते हैं, और
कौन-से हिस्से आम जानकारी या अंदाज़ा हैं? इन्हें अलग-अलग सूचियों में
रखें।

AI जुर्माने को अंदाज़े वाली सूची में डाल देता है। वह आखिरी तारीख आधिकारिक पेज से लेती है और जुर्माने के बारे में टैक्स विभाग को फ़ोन करती है। AI ने उसे यह देखने में मदद की कि क्या पता करना है, लेकिन जिस भी तथ्य पर उसने अमल किया, वह प्राथमिक स्रोत से आया।

अभी अभ्यास करें

1. किसी भी AI टूल से किसी ऐसी चीज़ के बारे में तथ्य वाला सवाल पूछें जिसे आप अच्छी तरह जानते हैं, जैसे आपका शहर, आपका काम या कोई शौक।
2. उससे कहें कि लिंक के साथ कम से कम दो स्रोत दे।
3. जवाब में हर नाम, संख्या, तारीख और उद्धरण को रेखांकित करें।
4. हर स्रोत खोलें और हर रेखांकित चीज़ का समर्थन करने वाला सटीक वाक्य ढूँढें।
5. हर चीज़ को पुष्ट, गलत या नहीं मिला के रूप में चिह्नित करें।

आखिर में आपके पास दावों की एक छोटी सूची होनी चाहिए जिसमें हर दावे की स्थिति लिखी हो, और यह शुरुआती अंदाज़ा कि आपके विषय में इस टूल की कितनी जाँच करनी पड़ती है। लंबी रिसर्च के लिए AI के साथ रिसर्च करें और हवाले जाँचें पर आगे बढ़ें।

यह टेम्पलेट कॉपी करें

इस सवाल का जवाब दें: [आपका सवाल]।

फिर अपने जवाब को तीन सूचियों में बाँटें:
1. ऐसे तथ्य जिनका स्रोत मैं जाँच सकूँ। हर एक के लिए स्रोत का नाम और
   लिंक दें।
2. आम जानकारी जो आपने किसी खास स्रोत से नहीं ली।
3. अंदाज़े, धारणाएँ या राय।

अगर आपको किसी नाम, संख्या, तारीख या उद्धरण के बारे में पक्का यकीन न हो, तो
उसके साथ ही यह लिख दें। स्रोत न गढ़ें।

AI से अनिश्चित बातें बताने को कहने से उसका जवाब सही नहीं हो जाता। जो हिस्से अहम हैं, उनकी जाँच करते रहें।

आउटपुट जाँचें

• क्या हर लिंक खुलता है, और क्या वह मूल या आधिकारिक पेज है?
• क्या स्रोत अपने शब्दों में वही कहता है जो AI दावा करता है?
• क्या नामों की वर्तनी सही है, और क्या तारीखें और संख्याएँ स्रोत से बिल्कुल मेल खाती हैं?
• क्या उद्धरण शब्दशः हैं, और क्या उन्हें उसी व्यक्ति ने कहा है जिसका नाम दिया गया है?
• क्या स्रोत आपके काम के लिए काफ़ी नया है? पेज पर कोई तारीख देखें।
• क्या अंदाज़े तथ्यों से साफ़ तौर पर अलग हैं?

आम गलतियाँ

• सिर्फ़ यह जाँचना कि लिंक काम करता है। असली पेज भी किसी और विषय पर हो सकता है। वह वाक्य ढूँढें जो दावे का समर्थन करता है।
• उसी AI से पूछना कि क्या उसे पक्का यकीन है। वह बिना किसी नए सबूत के सहमत हो सकता है या अपना जवाब बदल सकता है। इसके बजाय कोई प्राथमिक स्रोत जाँचें।
• आत्मविश्वास भरे लहजे को सटीकता का संकेत मानना। लहजे से सच के बारे में कुछ पता नहीं चलता। हर दावे को उसके स्रोत से परखें।
• हर चीज़ को एक जैसी सावधानी से जाँचना। आपका समय खत्म हो जाएगा। उससे शुरू करें जो गलत होने पर नुकसान कर सकता है: पैसा, सेहत, कानूनी बातें, और जो कुछ भी आप प्रकाशित करेंगे या भेजेंगे।