गीता अध्यापिका
गीता ने एआई से गाँव के इतिहास पर भाषण लिखवाया। एआई ने लिखा — "यह गाँव सन् अठारह सौ चालीस में राजा भगवंत सिंह ने बसाया।" गीता ने भरोसा करके भाषण दे दिया — बाद में गाँव के बुज़ुर्ग ने कहा "यह सब गलत है — ऐसा कोई राजा नहीं था!" एआई ने बनाई हुई बात इतने भरोसे से लिखी कि सच लगी।
यह है एआई का "भरोसेमंद झूठ" — एआई कभी-कभी ऐसी बातें बनाता है जो सच लगती हैं पर हैं नहीं। यह जानबूझकर नहीं — एआई का दिमाग "सही लगने वाला" जवाब बनाता है, न कि "सच" जवाब। फ़र्क समझो: "सही लगना" और "सही होना" एक बात नहीं।
एआई का भरोसेमंद झूठ — सबसे खतरनाक
एआई कभी नहीं कहता "मुझे नहीं पता" — वो हमेशा जवाब बना देता है। कभी सही, कभी गलत। गलत जवाब भी ऐसे भरोसे से लिखता है जैसे एकदम सच। इसे "मतिभ्रम" कहते हैं — एआई को भ्रम होता है कि यह सच है। इसलिए: एआई का कोई भी तथ्य (नाम, तारीख, संख्या, जगह) जाँचो।
तोते जैसा
तोता "राम-राम" बोलता है — पर उसे भगवान का मतलब नहीं पता। एआई भी "सही लगने वाले" शब्द जोड़ता है — पर उसे "सच" और "झूठ" का अंतर नहीं पता।
क्या-क्या झूठ होता है?
सबसे आम झूठ: (एक) तारीखें — गलत साल, गलत दिन। (दो) नाम — ऐसे लोग जो हैं ही नहीं। (तीन) संख्या — गलत आँकड़े, गलत प्रतिशत। (चार) नियम/कानून — गलत धारा, पुरानी जानकारी। (पाँच) जगह — गलत पता, गलत दूरी।
एआई का सच बनाम झूठ
| दोनों में | फ़र्क |
|---|---|
| भरोसेमंद ढंग से लिखा | दिखने में एक जैसे |
| विस्तृत | जाँचो तब पता चले |
| आत्मविश्वास से | एआई को सच-झूठ का अंतर नहीं |
तथ्य पर ध्यान दो
नाम, तारीख, संख्या, जगह
जाँचो
दोबारा पूछो या किसी और से पूछो
स्रोत माँगो
"कहाँ लिखा है?"
एआई "सच" नहीं खोजता — वो "सही लगने वाला अगला शब्द" लिखता है। इसीलिए झूठ भी सच जैसा लगता है — दोनों एक ही तरीके से बनते हैं।