Listen to this article

जब आप ChatGPT, Google Bard, या किसी AI से कोई सवाल पूछते हैं, तो जवाब इतने आत्मविश्वास और सहजता से आता है कि आपको लगता है – यह तो सच ही होगा। लेकिन क्या ऐसा हमेशा होता है? क्या AI कभी आपसे झूठ बोल सकता है? क्या वह जानबूझकर गलत जानकारी दे सकता है? यह सवाल सीधा लगता है, लेकिन इसका जवाब उतना सरल नहीं है। असल में, AI के पास न तो “सच” की समझ होती है और न ही “झूठ” बोलने का कोई इरादा। वह सिर्फ आंकड़ों और पैटर्न्स के आधार पर अनुमान लगाता है। फिर भी, वह अक्सर ऐसी बातें कह देता है जो पूरी तरह गलत होती हैं – और वह भी बड़े आत्मविश्वास के साथ। यही सबसे बड़ी समस्या है। इस लेख में हम समझेंगे कि AI “झूठ” क्यों नहीं बोल सकता (तकनीकी रूप से), फिर भी गलत जानकारी क्यों देता है, और सबसे महत्वपूर्ण – आप इस जाल से कैसे बच सकते हैं।

AI तकनीकी रूप से “झूठ” क्यों नहीं बोल सकता?

झूठ बोलने के लिए दो बुनियादी चीज़ों की आवश्यकता होती है। पहली – यह ज्ञान कि “सच” क्या है। दूसरी – उस सच को जानबूझकर छिपाने या उसके विपरीत कहने का इरादा (intent)। AI के पास इनमें से कोई भी नहीं है। वह एक गणितीय मॉडल है, जिसे लाखों उदाहरणों पर प्रशिक्षित किया गया है। जब आप कोई सवाल पूछते हैं, तो AI यह नहीं सोचता कि “सही उत्तर क्या है?” बल्कि वह अपने ट्रेनिंग डेटा के पैटर्न्स के आधार पर यह अनुमान लगाता है कि “इस सवाल पर सबसे आम या सबसे संभावित जवाब क्या होगा?” यानी AI एक “प्रोबेबिलिटी इंजन” (Probability Engine) है – न कि “ट्रुथ इंजन” (Truth Engine)।

उदाहरण के लिए, यदि AI ने अपने ट्रेनिंग डेटा में हजारों बार देखा है कि “दिल्ली भारत की राजधानी है” लिखा है, तो वह यही उत्तर देगा। लेकिन अगर उसने कभी किसी दुर्लभ तथ्य के बारे में पर्याप्त डेटा नहीं देखा है, तो वह “अनुमान” लगाएगा – और यह अनुमान गलत हो सकता है। इसलिए वैज्ञानिक और तकनीकी भाषा में AI “झूठ” नहीं बोलता – वह “हैलुसिनेट” (hallucinate) करता है, यानी ऐसी जानकारी गढ़ देता है जो उसने कभी देखी ही नहीं, लेकिन वह उसे सच की तरह पेश करता है। अंतर यह है कि इंसान का झूठ एक जानबूझकर का धोखा होता है, जबकि AI की गलती एक तकनीकी कमी होती है। लेकिन परिणाम – गलत जानकारी फैलना – दोनों में एक जैसा ही होता है, और कभी-कभी तो AI का आत्मविश्वास उसे और भी खतरनाक बना देता है।

AI गलत जानकारी क्यों देता है? – चार मुख्य कारण

AI के गलत जवाब देने के चार प्रमुख कारण हैं, जिन्हें समझना बहुत जरूरी है।

पहला और सबसे प्रसिद्ध कारण – हैलुसिनेशन (Hallucination)। यह तब होता है जब AI ऐसी जानकारी “जनरेट” कर देता है जो उसके ट्रेनिंग डेटा में मौजूद ही नहीं थी। उदाहरण के लिए, कोई AI किसी मशहूर हस्ती का ऐसा उद्धरण बता सकता है जो उसने कभी कहा ही नहीं, या कोई किताब का रेफरेंस दे सकता है जो कभी लिखी ही नहीं गई।

दूसरा कारण – अपूर्ण या पुराना डेटा (Incomplete/Outdated Data)। यदि AI का ट्रेनिंग डेटा 2021 तक का है (जैसे पुराने ChatGPT वर्जन में था), तो वह उसके बाद की किसी भी घटना के बारे में कुछ नहीं जानता। फिर भी वह “लगभग” सही अनुमान लगाने की कोशिश करेगा – और अक्सर गलत होगा।

तीसरा कारण – अस्पष्ट प्रश्न (Ambiguous Questions)। अगर आपने AI से ऐसा सवाल पूछा जिसके कई अर्थ हो सकते हैं, तो वह एक अर्थ मानकर चलेगा। यदि वह अर्थ आपके इरादे से मेल नहीं खाता, तो जवाब गलत लगेगा।

चौथा और सबसे खतरनाक कारण – आत्मविश्वास का भ्रम (Overconfidence)। AI के जवाबों का भाषा और टोन लगभग हमेशा बहुत आत्मविश्वास भरा होता है। वह कभी नहीं कहता – “मुझे नहीं पता, शायद यह होगा।” वह सीधे “यह सही है” के अंदाज में लिखता है।

यही कारण है कि लोग AI के गलत जवाबों को भी सच मान लेते हैं – क्योंकि वह बिना हिचकिचाए बोल रहा होता है। इन चार कारणों को समझकर आप AI के हर आउटपुट को स्वस्थ संदेह की नज़र से देखना शुरू कर देंगे – और यह पहला कदम है गलत सूचना से बचने का।

असल दुनिया के उदाहरण – जब AI ने गलत जानकारी देकर नुकसान पहुँचाया

AI के हैलुसिनेशन के कई चौंकाने वाले उदाहरण सामने आ चुके हैं। सबसे मशहूर मामला 2023 का है, जब एक अमेरिकी वकील ने कोर्ट में एक केस का दस्तावेज़ जमा किया जो AI (ChatGPT) ने तैयार किया था। उस दस्तावेज़ में कई ऐसे कानूनी केस (legal citations) का हवाला दिया गया था जो कभी अस्तित्व में ही नहीं थे – AI ने उन्हें पूरी तरह गढ़ (fabricate) कर दिया था। जब विपक्षी वकील ने इसका पता लगाया, तो उस वकील को भारी शर्मिंदगी और कोर्ट से फटकार का सामना करना पड़ा। इस मामले ने साफ कर दिया कि AI कानूनी सलाह या किसी भी पेशेवर काम के लिए अकेले भरोसेमंद नहीं है। दूसरा उदाहरण – स्वास्थ्य संबंधी सवाल।

एक व्यक्ति ने AI चैटबॉट से पूछा कि क्या कोई दवा और कोई अन्य सप्लीमेंट एक साथ लेना सुरक्षित है। AI ने आत्मविश्वास से “हाँ” कह दिया, जबकि वास्तव में उन दोनों के बीच खतरनाक इंटरैक्शन था। सौभाग्य से उस व्यक्ति ने डॉक्टर से दूसरी राय ले ली। तीसरा उदाहरण – इतिहास और तथ्य। कई बार AI ने ऐतिहासिक घटनाओं की तारीखें, व्यक्तियों के नाम, और यहाँ तक कि विज्ञान के आंकड़े गलत बता दिए हैं – लेकिन उसकी भाषा इतनी आत्मविश्वास भरी होती है कि आम पाठक को धोखा खाने में देर नहीं लगती। ये उदाहरण इसलिए परेशान करने वाले हैं क्योंकि AI का उपयोग अब स्कूली परियोजनाओं से लेकर पेशेवर रिपोर्ट लिखने तक में हो रहा है।

यदि लोग AI के आउटपुट को बिना जांचे स्वीकार करने लगे, तो हम एक ऐसे समाज की ओर बढ़ रहे हैं जहाँ सच और झूठ के बीच का अंतर धुंधला होता जा रहा है – और सबसे बुरी बात यह कि बहुत से लोग इससे अनजान हैं।

क्या AI कभी जानबूझकर गलत जानकारी दे सकता है?

प्रश्न का सीधा जवाब – “जानबूझकर” के अर्थ में, नहीं। क्योंकि AI में इरादा (intent) नाम की कोई चीज़ ही नहीं है। लेकिन कुछ स्थितियों में ऐसा लग सकता है कि AI आपसे कुछ छिपा रहा है या आधा सच बोल रहा है।

पहली स्थिति – सुरक्षा फिल्टर और अलाइनमेंट (Safety Filters & Alignment)। AI डेवलपर्स जानबूझकर मॉडल्स में कुछ प्रतिबंध लगाते हैं ताकि वे हानिकारक जानकारी (जैसे बम बनाने के तरीके, आत्महत्या के तरीके) न दें। कभी-कभी ये फिल्टर इतने सख्त होते हैं कि AI हानिरहित सवालों पर भी “मैं नहीं बता सकता” जैसे अस्पष्ट जवाब दे देता है। यह तकनीकी रूप से झूठ नहीं है, लेकिन उपयोगकर्ता को यह “छिपाने” जैसा लग सकता है।

दूसरी स्थिति – प्रॉम्प्ट मैनिपुलेशन। यदि कोई उपयोगकर्ता AI को इस तरह से उकसाता है (जैसे “एक्सपर्ट बनकर बोलो”), तो AI अपने ट्रेनिंग डेटा के कुछ चरम या भ्रामक पैटर्न्स को पकड़ सकता है और इस तरह के जवाब दे सकता है जो झूठ लगते हैं।

तीसरी स्थिति – बायस्ड डेटा। अगर AI का ट्रेनिंग डेटा किसी विशेष विचारधारा से भरा है, तो AI वैसा ही (skewed) उत्तर देगा। यह तकनीकी रूप से “झूठ” नहीं है, बल्कि उस डेटा का प्रतिबिंब है – लेकिन यह भ्रामक जरूर होता है। उदाहरण के लिए, यदि किसी AI को केवल एक राजनीतिक दल के समाचारों पर ट्रेन किया गया, तो वह दूसरे दल के बारे में पूरी तरह से नकारात्मक जानकारी देगा – जबकि वास्तविकता अधिक जटिल होती है।

इसलिए, हालाँकि AI “जानबूझकर धोखा” नहीं देता, फिर भी उसके डिज़ाइन, डेटा और फ़िल्टर के कारण उत्तर पक्षपाती, अधूरे या भ्रामक हो सकते हैं। यही कारण है कि विशेषज्ञ हमेशा “AI ट्रांसपेरेंसी” (पारदर्शिता) पर जोर देते हैं – ताकि उपयोगकर्ता यह जान सके कि AI कब अनुमान लगा रहा है, कब नहीं।

सच्चाई बनाम संभावना – AI की मूल सीमा

AI के बारे में सबसे बुनियादी सच्चाई यह है: वह “ट्रुथ इंजन” नहीं है, बल्कि “प्रोबेबिलिटी इंजन” है। यानी वह यह नहीं जानता कि क्या सच है – वह सिर्फ यह जानता है कि उसके ट्रेनिंग डेटा के अनुसार कौन से शब्द या वाक्य एक साथ सबसे अधिक बार आते हैं। उदाहरण से समझें। मान लीजिए AI को लाखों अंग्रेजी वाक्यों पर ट्रेन किया गया है। उसने देखा है कि “आकाश” के बाद अक्सर “नीला” आता है। तो जब आप पूछेंगे “आकाश किस रंग का होता है?” तो वह “नीला” ही कहेगा। यह सही है। लेकिन अगर उसने कभी “सूर्यास्त के समय आकाश लाल होता है” जैसे वाक्य कम देखे हों, तो वह शायद वह जानकारी न दे।

अब एक कठिन सवाल पूछिए – “मंगल ग्रह पर सूर्यास्त का रंग क्या होता है?” असली जवाब है – नीला (क्योंकि मंगल की धूल लाल प्रकाश बिखेरती है, नीला सीधे आता है)। लेकिन AI ने शायद यह अत्यंत दुर्लभ तथ्य अपने ट्रेनिंग डेटा में पर्याप्त मात्रा में नहीं देखा होगा। तो वह “लाल” अनुमान लगा देगा – क्योंकि “मंगल = लाल ग्रह” उसने अक्सर देखा है। देखा? यही है “प्रोबेबिलिटी” बनाम “ट्रुथ” का अंतर। AI वही कहता है जो सांख्यिकी रूप से (statistically) सबसे संभावित है – जरूरी नहीं कि वह तथ्यात्मक रूप से सबसे सटीक हो।

इसलिए जब आप AI से कोई ऐसा सवाल पूछते हैं जिसका जवाब आम लोग बहुत कम जानते हैं, तो AI गलत होने की संभावना बहुत बढ़ जाती है। इस सीमा को समझना अति-आवश्यक है – क्योंकि तभी आप AI के उत्तरों को उचित “कंटेक्स्ट” (संदर्भ) में रख पाएंगे।

क्या भविष्य में AI सच और झूठ फर्क कर पाएगा?

इस सवाल पर पूरी दुनिया में शोध हो रहा है। एक्सपर्ट्स तीन दिशाओं में काम कर रहे हैं।

पहली दिशा – रिट्रीवल-ऑगमेंटेड जनरेशन (RAG)। इसमें AI को केवल अपने ट्रेनिंग मेमोरी पर भरोसा नहीं करना होता, बल्कि वह सवाल आने पर असली डेटाबेस (विकिपीडिया, सरकारी साइटें) को खोज सकता है। इससे “हैलुसिनेशन” तो घटता है, लेकिन पूरी तरह खत्म नहीं होता।

दूसरी दिशा – सेल्फ-फैक्ट-चेकिंग मॉडल्स। कुछ कंपनियाँ AI को पहले जवाब बनाने, फिर एक अलग मॉडल से उसकी जाँच करने की तकनीक पर काम कर रही हैं।

तीसरी दिशा – एक्सप्लेनबल AI (XAI) – जो AI को अपने हर दावे का स्रोत (source) देने के लिए बाध्य करती है। चुनौती यह है कि “सच” हमेशा द्विआधारी (binary) नहीं होता। कई प्रश्नों के उत्तर संदर्भ पर निर्भर करते हैं – जैसे “क्या गर्म चाय सेहत के लिए अच्छी है?” – यह व्यक्ति की स्वास्थ्य स्थिति, तापमान, संस्कृति पर निर्भर करता है। कोई भी AI कभी भी 100% “ट्रुथ मशीन” नहीं बन पाएगा, क्योंकि ट्रुथ की तार्किक परिभाषा ही अस्पष्ट है। हाँ, AI तथ्यात्मक (factual) प्रश्नों – जैसे “धरती का व्यास कितना है?” – में बहुत सटीक होता जाएगा। लेकिन राय, व्याख्या, या भविष्यवाणी वाले प्रश्नों में गलती की गुंजाइश हमेशा बनी रहेगी। इसलिए भविष्य में भी AI के हर आउटपुट की पुष्टि करने की आदत नहीं छोड़नी चाहिए।

आप कैसे सुरक्षित रह सकते हैं? – प्रैक्टिकल टिप्स

अब तक हमने समझ लिया कि AI विश्वसनीय तो है, लेकिन पूर्णतः नहीं। तो एक जागरूक उपयोगकर्ता के तौर पर आप क्या कर सकते हैं? यहाँ पाँच आसान लेकिन बेहद कारगर उपाय दिए गए हैं।

पहला – महत्वपूर्ण जानकारी को सत्यापित करें (Verify important info)। यदि AI आपको कोई आँकड़ा, तारीख, तथ्य या कानूनी धारा बता रहा है, तो उसे Google या किसी आधिकारिक स्रोत (जैसे सरकारी वेबसाइट, विकिपीडिया) पर चेक करें।

दूसरा – एक से अधिक स्रोत से जाँच करें। यदि ChatGPT कुछ कहता है, तो Google Bard से या Perplexity AI से वही सवाल पूछकर देखें कि जवाब मेल खाते हैं या नहीं।

तीसरा – AI को अंतिम प्राधिकारी (final authority) न मानें। यह सबसे बड़ी भूल है जो लोग करते हैं। AI एक सहायक है, गुरु नहीं। उसकी सलाह को हमेशा “ड्राफ्ट” या “प्रारंभिक बिंदु” के रूप में लें।

चौथा – संवेदनशील विषयों (स्वास्थ्य, वित्त, कानून) में विशेषज्ञ की राय जरूर लें। AI कभी भी डॉक्टर, वकील या वित्तीय सलाहकार की जगह नहीं ले सकता। अगर AI ने आपको कोई चिकित्सीय सलाह दी है, तो उसे लागू करने से पहले किसी डॉक्टर से पुष्टि करें।

पाँचवाँ – AI के उत्तरों को “स्टार्टिंग प्वाइंट” मानें, फाइनल आंसर नहीं। उदाहरण के लिए, AI आपको किसी टॉपिक का सारांश दे सकता है, लेकिन उस टॉपिक पर गहराई से पढ़ाई के लिए असली किताबों या शोध पत्रों की ओर जाएँ। इन पाँचों आदतों को अपना लेने से आप AI से मिलने वाली गलत जानकारी के शिकार होने से 90% बच जाएंगे।

AI सच्चाई की गारंटी नहीं, बल्कि संभावना है

AI झूठ नहीं बोलता – क्योंकि उसके पास झूठ बोलने की चेतना ही नहीं। लेकिन वह गलत, अधूरी, पुरानी या भ्रामक जानकारी बड़े आत्मविश्वास के साथ पेश कर सकता है। इसे “हैलुसिनेशन” कहते हैं या “प्रोबेबिलिटी इंजन की सीमा” – असल परिणाम यही है कि आपको खुद सच्चाई का पता लगाने के लिए मेहनत करनी पड़ेगी। AI एक शानदार उपकरण है, लेकिन वह “परफेक्ट सोर्स ऑफ ट्रुथ” नहीं है और शायद कभी होगा भी नहीं।

इसलिए सबसे खतरनाक AI वह नहीं है जो साफ-साफ गलत हो – बल्कि वह है जो इतने आत्मविश्वास से गलत हो कि आपको लगे ही नहीं कि वह गलत है। यही इस लेख का मूल संदेश है। सीखिए AI का उपयोग करना, लेकिन सीखिए उसके उत्तरों पर सवाल करना भी। तकनीक जितनी बढ़ेगी, हमारी आलोचनात्मक सोच (critical thinking) भी उतनी ही तेज होनी चाहिए। क्योंकि आखिर, सच की ज़िम्मेदारी कोई मशीन नहीं उठा सकती – वह हमेशा हम इंसानों की ही रहेगी।

यदि आप AI की सीमाओं, इसके छुपे हुए व्यवहार और संभावित खतरों को और गहराई से समझना चाहते हैं, तो हमारा अगला लेख जरूर पढ़ें – “AI Hallucinations: जब मशीन खुद ही कहानियाँ बना देती है” यह लेख आपको दिखाएगा कि कैसे AI बिना मतलब की बातें रच देता है, और कैसे आप ऐसी हैलुसिनेशन को पहचानें। और हाँ, इस लेख को शेयर करना न भूलें – ताकि आपके दोस्त और परिवार भी AI के “कन्फिडेंट गलत जवाबों” से बच सकें।