एआई के कारण संकुचित हो रही दुनिया? इज़रायली विद्वान ने चेताया
जेरूसलम, 7 अगस्त, 2025 (टीपीएस-आईएल) – जैसे-जैसे ChatGPT जैसे जनरेटिव AI टूल दैनिक जीवन का हिस्सा बन रहे हैं, एक इज़रायली कानूनी विद्वान एक गंभीर चिंता व्यक्त कर रहे हैं: ये सिस्टम चुपके से हमारी दुनिया को संकुचित कर सकते हैं।
इंडियाना लॉ जर्नल में प्रकाशित एक नए लेख में, हिब्रू विश्वविद्यालय ऑफ जेरूसलम की प्रोफेसर मिशल शूर-ओफ़्री, जो NYU के इंफॉर्मेशन लॉ इंस्टीट्यूट में विजिटिंग फैकल्टी फेलो भी हैं, का तर्क है कि बड़े भाषा मॉडल (LLMs) अक्सर सांस्कृतिक विविधता और लोकतांत्रिक संवाद की कीमत पर मानकीकृत, मुख्यधारा की सामग्री उत्पन्न करते हैं।
शूर-ओफ़्री ने कहा, “अगर हर किसी को AI से एक ही तरह के मुख्यधारा के जवाब मिल रहे हैं, तो यह आवाजों, आख्यानों और संस्कृतियों की विविधता को सीमित कर सकता है जिनसे हम अवगत होते हैं।” “समय के साथ, यह हमारे सोचने योग्य विचारों की दुनिया को संकुचित कर सकता है।”
उनके अध्ययन में पता चला कि AI-जनित उत्तर, हालांकि अक्सर उपयोगी और विश्वसनीय होते हैं, लेकिन वे बार-बार दोहराए जाने वाले और सांस्कृतिक रूप से संकीर्ण होते हैं। उदाहरण के लिए, 19वीं सदी के महत्वपूर्ण हस्तियों के बारे में पूछे जाने पर, ChatGPT ने अब्राहम लिंकन, चार्ल्स डार्विन और क्वीन विक्टोरिया जैसे नाम लौटाए – जो प्रमुख थे, लेकिन अत्यधिक एंग्लो-केंद्रित थे। इसी तरह का पूर्वाग्रह तब सामने आया जब मॉडल को सर्वश्रेष्ठ टेलीविज़न श्रृंखलाओं को सूचीबद्ध करने के लिए कहा गया: परिणाम अंग्रेजी भाषा की हिट फिल्मों की ओर बहुत अधिक झुके हुए थे, जिसमें गैर-पश्चिमी और गैर-अंग्रेजी विकल्प शामिल नहीं थे।
शूर-ओफ़्री बताती हैं कि समस्या इन AI सिस्टम के निर्माण के तरीके में निहित है। LLMs को इंटरनेट टेक्स्ट की विशाल मात्रा पर प्रशिक्षित किया जाता है, जो आनुपातिक रूप से अंग्रेजी में होते हैं और प्रमुख सांस्कृतिक मानदंडों को दर्शाते हैं। मॉडल संभावित प्रतिक्रियाओं की भविष्यवाणी करने के लिए सांख्यिकीय पैटर्न का उपयोग करते हैं, जिसका अर्थ है कि जो सबसे आम है वह सबसे अधिक बार दिखाई देता है। जबकि यह दृष्टिकोण सटीकता और सुसंगतता को बढ़ाता है, यह छोटी भाषाई और सांस्कृतिक समुदायों के दृष्टिकोण को दरकिनार कर देता है। समय के साथ, जैसे-जैसे LLMs अपने स्वयं के आउटपुट पर फ़ीड करते हैं और मौजूदा डिजिटल सामग्री पर प्रशिक्षित होते रहते हैं, संकुचन प्रभाव बढ़ता जाता है।
शूर-ओफ़्री चेतावनी देती हैं, “यह सिर्फ एक तकनीकी गड़बड़ी नहीं है।” “इसके गहरे सामाजिक परिणाम हो सकते हैं। यह सांस्कृतिक विविधता को कम कर सकता है, सामाजिक सहिष्णुता को कमजोर कर सकता है, और लोकतांत्रिक बातचीत और सामूहिक स्मृति की नींव को कमजोर कर सकता है।”
इस प्रवृत्ति का मुकाबला करने के लिए, शूर-ओफ़्री AI शासन के लिए एक नया कानूनी और नैतिक सिद्धांत प्रस्तावित करती हैं: “बहुलता।” यह अवधारणा AI टूल को इस तरह से डिजाइन करने का आह्वान करती है जो केवल सबसे सांख्यिकीय रूप से संभावित उत्तरों को वापस करने के बजाय, विविध दृष्टिकोणों और आख्यानों के संपर्क का सक्रिय रूप से समर्थन करता है।
उन्होंने कहा, “अगर हम चाहते हैं कि AI समाज की सेवा करे, न कि केवल दक्षता की, तो हमें जटिलता, सूक्ष्मता और विविधता के लिए जगह बनानी होगी।” “बहुलता इसी के बारे में है – AI-संचालित दुनिया में मानव अनुभव के पूरे स्पेक्ट्रम की रक्षा करना।”
यह पत्र बहुलता को बढ़ावा देने के दो प्रमुख तरीकों पर भी प्रकाश डालता है। पहला, AI प्लेटफार्मों में ऐसी सुविधाएँ बनाना जो उपयोगकर्ताओं को आउटपुट में विविधता को आसानी से बढ़ाने की अनुमति देती हैं – जैसे कि मॉडल के “तापमान” को समायोजित करना, एक सेटिंग जो उत्पन्न प्रतिक्रियाओं की सीमा को व्यापक बनाती है। दूसरा, प्रतिस्पर्धी AI सिस्टम का एक पारिस्थितिकी तंत्र विकसित करना जो उपयोगकर्ताओं को “दूसरी राय” और वैकल्पिक दृष्टिकोण खोजने की क्षमता प्रदान करता है।
शूर-ओफ़्री AI साक्षरता के महत्व पर भी जोर देती हैं। उन्होंने कहा, “लोगों को यह समझने की बुनियादी समझ की आवश्यकता है कि LLMs कैसे काम करते हैं और उनके आउटपुट संतुलित या समावेशी दृष्टिकोणों के बजाय लोकप्रिय दृष्टिकोणों को क्यों दर्शा सकते हैं।” “यह जागरूकता उपयोगकर्ताओं को अनुवर्ती प्रश्न पूछने, उत्तरों की तुलना करने और उन्हें प्राप्त होने वाली जानकारी के बारे में अधिक आलोचनात्मक रूप से सोचने में मदद कर सकती है। यह उन्हें AI को सत्य के एकल स्रोत के रूप में नहीं, बल्कि एक उपकरण के रूप में देखने के लिए प्रोत्साहित करता है – जिसे वे समृद्ध, अधिक बहुलवादी ज्ञान की खोज में वापस धकेल सकते हैं।”
वह टेक्नियॉन के कंप्यूटर साइंस विभाग के डॉ. योनातन बेलिनकोव और आदिर रहमीम, और हिब्रू विश्वविद्यालय के बार होरोविट्ज़-एमसलेम के साथ मिलकर इन विचारों को व्यवहार में लाने के लिए काम कर रही हैं।
