कोई लिंक किसी असली और भरोसेमंद वेबसाइट पर ले जा सकता है, लेकिन इसका मतलब यह नहीं है कि वेबसाइट भी उस खास दावे को सपोर्ट करती है जिससे वह लिंक है। वहीँ गुमराह करने वाले जवाब में हमेशा मनगढ़ंत बातें नहीं होतीं। कभी-कभी समस्या वह जानकारी होती है जो सिस्टम आपको नहीं बता पाता।
जब कोई चीज़ सही लगती है, तो इसका मतलब यह नहीं है कि वह सही है। रिसर्चर्स ने चेतावनी दी है कि जो फीचर्स एआई-पावर्ड सर्च को आकर्षक बनाते हैं- यानी, स्पीड, सुविधा और भरोसेमंद जवाब- वे गलत जानकारी की पहचान करना भी मुश्किल बना सकते हैं।
बीबीसी की एक रिपोर्ट के मुताबिक़, इस तरह, एआई न सिर्फ जानकारी खोजने के हमारे तरीके को बदल रहा है, बल्कि उस जानकारी की सच्चाई और क्रेडिबिलिटी को आंकने के हमारे तरीके पर भी असर डाल रहा है।
सवालों का जवाब तलाशने के लिए अधिकतर लोग ChatGPT, Gemini और Cloud जैसे टूल का प्रयोग करते हैं। ये टूल कुछ ही सेकंड में किसी न्यूज़ स्टोरी को समराइज़ कर सकते हैं, किसी मेडिकल टर्म को समझा सकते हैं या किसी मुद्दे को तय करने में मदद कर सकते हैं। इस तरह से आर्टिफिशियल इंटेलिजेंस सवाल पूछने वाले को इस झंझट से बचाने में मददगार बनता है।
रिपोर्ट के मुताबिक़, रॉयटर्स इंस्टीट्यूट फॉर द स्टडी ऑफ जर्नलिज्म के 2025 के सर्वे के मुताबिक, 54 प्रतिशत लोगों ने पिछले हफ़्ते एक सर्च क्वेरी का एआई से जवाब देखा था। उनमें से 28 प्रतिशत ने कहा कि उन्होंने सोर्स की वेबसाइट के लिंक पर बहुत कम या कभी क्लिक नहीं किया। यह सर्वे अर्जेंटीना, डेनमार्क, फ्रांस, जापान, यूके और यूएस छह देशों में किया गया।
रिपोर्ट बताती है कि यूके के एक कंज्यूमर राइट्स ग्रुप, Which? के मुताबिक, यूके के 51 प्रतिशत एडल्ट ऑनलाइन जानकारी ढूंढने के लिए एआई टूल का इस्तेमाल करते हैं, हालांकि ट्रेडिशनल सर्च इंजन अभी भी ज़्यादा इस्तेमाल होते हैं।
इस रिपोर्ट में पुराने सर्च इंजन यूज़र्स को अलग-अलग वेबसाइट के लिंक दिखाते हैं, जिन्हें उन्हें खुद खोलना और एक्सप्लोर करना होता है। इसके उलट, एआई पावर्ड सर्च जानकारी को चुनता है, समराइज़ करता है और उसका मतलब निकालता है।
लेकिन जैसे-जैसे हम चैटबॉट को जानकारी खोजने और जांचने का काम देने के ज़्यादा आदी होते जाते हैं, उनके दिए गए जवाबों पर सवाल उठाने की आदत भी कम हो सकती है। खासकर तब जब ये जवाब कॉन्फिडेंस और ऑथेंटिक तरीके से दिए जाते हैं।
यूनिवर्सिटी ऑफ़ वाशिंगटन में लिंग्विस्टिक्स की प्रोफेसर एमिली एम. बेंडर कहती हैं, “समस्या इस बात की बुनियादी गलतफहमी से शुरू होती है कि बड़े लैंग्वेज मॉडल (LLMs) असल में कैसे काम करते हैं।” ये सिस्टम उन्हें दिए गए कंटेंट में पैटर्न का इस्तेमाल करके यह अंदाज़ा लगाते हैं कि अगला शब्द या वाक्य का हिस्सा क्या होना चाहिए और फिर उसी हिसाब से टेक्स्ट बनाते हैं। इंसानों की तरह तेज़ी से जवाब देने की उनकी काबिलियत का मतलब यह नहीं है कि उन्हें दी गई जानकारी समझ में आ जाए।
बेंडर इस प्रोसेस की तुलना आपके फ़ोन के प्रेडिक्टिव टेक्स्ट फ़ीचर से करती हैं। आप एक वाक्य टाइप करना शुरू करते हैं और बार-बार सुझाए गए शब्दों को चुनते रहते हैं, और हो सकता है कि आपको ऐसा वाक्य मिले जो बिल्कुल फ़्लूएंट लगे लेकिन उसका ज़्यादा मतलब न निकले।
उनके अनुसार, इन्फ़ॉर्मेशन सर्विस में इस्तेमाल होने वाले चैटबॉट और बड़े लैंग्वेज मॉडल असल में यही काम कर रहे हैं। फ़र्क सिर्फ़ इतना है कि उनके जवाब अथॉरिटेटिव और कॉन्फिडेंट लग सकते हैं, भले ही उनके दावे सच साबित न हुए हों।
बेंडर कहती हैं, “ये सिस्टम ऐसी भाषा बनाने के लिए डिज़ाइन किए गए हैं जो अथॉरिटेटिव और कॉन्फिडेंट लगे, न कि सवालों का सही जवाब देने के लिए, और वे ऐसी भाषा बनाते हैं जो अथॉरिटेटिव और कॉन्फिडेंट लगे।”
एआई से छूटी हुई जानकारी का खतरा
यूनिवर्सिटी ऑफ़ वाशिंगटन में प्रोफ़ेसर और InfoSeeking Lab के डायरेक्टर और Rising AI किताब के लेखक चिराग शाह कहते हैं, “एआई सिस्टम जवाब देने से पहले कई फ़ैसले लेते हैं, जिसमें यह भी शामिल है कि कौन से सवाल सर्च करने हैं, किन नतीजों को प्राथमिकता देनी है, और कौन से डॉक्यूमेंट इस्तेमाल करने हैं।”
यूज़र अक्सर इन फ़ैसलों से अनजान होते हैं।
एक सिस्टम किसी सवाल से जुड़ी जानकारी निकाल सकता है जो किसी मज़ाकिया, पुराने या गुमराह करने वाले वेब पेज से ली गई हो। फिर लैंग्वेज मॉडल उस जानकारी का इस्तेमाल करके जवाब बनाता है और उसे भरोसेमंद जानकारी के तौर पर भी दिखा सकता है। शाह के मुताबिक, इस प्रोसेस से ऐसा जवाब मिल सकता है जो भरोसेमंद लगे, भले ही वह जानकारी गलत हो।
“समस्या और भी छोटी हो सकती है। मान लीजिए आप किसी खास दवा के साथ अपने अनुभव ढूंढ रहे हैं। जिन लोगों ने उस दवा के साइड इफ़ेक्ट महसूस किए हैं, उनके इंटर्निस्ट होने की संभावना उन लोगों की तुलना में ज़्यादा हो सकती है जिन्होंने नहीं किए हैं।
क्या एआई सर्च में हेरफेर किया जा सकता है?
एक और कमजोरी यह है कि इंटरनेट पर मौजूद जानकारी में भी हेरफेर किया जा सकता है। बीबीसी की इस स्टडी में, एक पत्रकार ने दिखाया कि कैसे, अपनी पर्सनल वेबसाइट पर एक पूरी तरह से झूठा दावा पब्लिश करके, ChatGPT और Google के AI Overviews जैसे पॉपुलर AI टूल्स ने उस दावे को सच बताकर दोहराना शुरू कर दिया। दावा यह था कि पत्रकार हॉट डॉग खाने के कॉम्पिटिशन में वर्ल्ड चैंपियन था।
यह उदाहरण एक बड़ी समस्या को दिखाता है। एआई सर्च टूल्स इंटरनेट से मिली जानकारी पर अलग-अलग हद तक निर्भर करते हैं। अगर यह जानकारी गलत है या जानबूझकर गुमराह करने के लिए फैलाई गई है, तो यह यूज़र को मिलने वाले रिस्पॉन्स पर भी असर डाल सकती है।
यह रिस्क सिर्फ़ किसी व्यक्ति द्वारा मनगढ़ंत कहानी बनाने और उसे इस उम्मीद में पब्लिश करने तक ही सीमित नहीं है कि चैटबॉट उसे दोहराएगा। एआई सिस्टम अलग-अलग कॉन्टेक्स्ट से सही जानकारी को मिला भी सकते हैं, उलटे सबूतों को नज़रअंदाज़ कर सकते हैं, या यह समझाने में नाकाम हो सकते हैं कि शुरुआती स्टडी के नतीजों को बाद की रिसर्च में चुनौती दी गई है।
ऑस्ट्रेलिया में क्वींसलैंड यूनिवर्सिटी की इन्फॉर्मेशन इंजीनियरिंग लैब में पोस्टडॉक्टरल रिसर्च फेलो डॉ. हेंग (एलेक्स) ली कहते हैं कि जानकारी का कितना काम का है और उसकी सटीकता दो अलग-अलग चीजें हैं।
तो क्या हमें जानकारी ढूंढने के लिए एआई का इस्तेमाल बंद कर देना चाहिए?
एक्सपर्ट्स एआई टूल्स के इस्तेमाल के खिलाफ नहीं हैं। उनकी चिंता यह है कि सुविधा की कीमत फैसले लेने में रुकावट के रूप में चुकानी पड़ सकती है।
ली का सुझाव है, “एआई को जानकारी खोजने के लिए एक शुरुआती पॉइंट के तौर पर देखा जाना चाहिए, न कि आखिरी अथॉरिटी के तौर पर।” यूज़र्स को जवाब के साथ दिए गए साइटेशन खोलने चाहिए, पता लगाना चाहिए कि जानकारी कब पब्लिश हुई थी, और चेक करना चाहिए कि क्या यह सच में चैटबॉट के जवाब को सपोर्ट करता है। वे ओरिजिनल सोर्स और भरोसेमंद सबूत भी मांग सकते हैं जो एआई के जवाब को गलत साबित करते हों।”
“हेल्थ, लीगल, फाइनेंशियल या सेफ्टी के बारे में फैसले लेने से पहले, यूज़र्स को ऑफिशियल सोर्स से जानकारी वेरिफाई करनी चाहिए या संबंधित फील्ड के क्वालिफाइड एक्सपर्ट्स से सलाह लेनी चाहिए।”
असल प्रॉब्लम सिर्फ़ यह नहीं है कि एआई गलत जवाब दे सकता है, बल्कि यह भी है कि अधूरे या गलत जवाब इतने कॉन्फिडेंस के साथ दिए जा सकते हैं कि हम और जानकारी ढूंढना ही बंद कर देते हैं।
अगली बार जब कोई चैटबॉट आपको ठीक वही जवाब दे जो आप ढूंढ रहे थे, तो उसे फाइनल मानने से पहले एक पल रुकें। ली के शब्दों में, “एआई का इस्तेमाल जानकारी को समझने में आसान बनाने के लिए करें, न कि सबूत की ज़रूरत को खत्म करने के लिए।”
