जो कॉर्पोरेट एल्गोरिदम का लाभ उठाते हैं, उन्हें उचित कानून लागू होने तक एल्गोरिदम सिस्टम से होने वाले नुक़सान को कम करने के लिए ख़ुद को जवाबदेह बनाने की ज़रूरत है.
एआई एफ़4: तथ्य, कल्पना, भय और कल्पनाएं: श्रृंखला का हिस्सा है यह निबंध
मानवीय कल्पना हमारे आसपास की दुनिया की हर चीज़ का आधार है. जैसा कि अभिप्रेरक लेखक विलियम आर्थर वार्ड का मशहूर कथन है, "यदि आप इसकी कल्पना कर सकते हैं, तो आप इसे बना भी सकते हैं."
पूरे इतिहास में, यह साहसी और कल्पनाशील फंतासियों वाले लोग ही थे, जिन्होंने आज की हमारी कई तकनीक़ों का आविष्कार किया जिन्हें अब हम हल्के में लेते हैं, जैसे कि बिजली, हवाई जहाज़, अंग प्रत्यारोपण, इंटरनेट और मोबाइल फोन - इन सभी का समाज और वैश्विक अर्थव्यवस्था पर दूरगामी प्रभाव पड़ा है. इस चौथी औद्योगिक क्रांति में कई तकनीक़ों के अभिसरण के साथ, आविष्कारकों की तकनीक़ी कल्पनाएं और भी अधिक दुस्साहसी हो चुकी हैं- 30 मिनट में उड़ान भरकर दुनिया भर में कहीं भी पहुंच जाना, अनन्त जीवन का विस्तार करना, पूरे के पूरे शहरों को 3डी प्रिंटिंग से बनाना, कृषि का प्रबंधन अंतरिक्ष से करना, विचारों के माध्यम से कंप्यूटर से संवाद करना और ऐसी कृत्रिम बुद्धिमत्ता तैयार करना जो मानव मस्तिष्क की संज्ञानात्मक क्षमता के बराबर हो और जानवरों से बात करने में सक्षम हो. ये उन तकनीक़ी कल्पनाओं में से कुछ हैं जिन्हें साकार करने के लिए आज लोग काम कर रहे हैं.
एआई पिछली सभी तकनीक़ों जैसे इंटरनेट, मोबाइल फ़ोन, इंटरनेट ऑफ थिंग्स (आईओटी) और सिंथेटिक बायोलॉजी के ऊपर आधारित है. यह तेज़ एकीकरण एक ज़बरदस्त आर्थिक और सामाजिक अवसर प्रस्तुत करता है, लेकिन साथ ही साथ इससे सामाजिक विपत्ति की भी आशंका पैदा होती है.
यह इस प्रकार की उत्साही तकनीक़ी कल्पनाएं ही हैं जो नवाचार को बढ़ावा देती हैं और समाज को प्रभावित करेंगी. हमारे इतिहास में हमारे पास कई सामान्य उद्देश्य प्रौद्योगिकियां (जीपीटी) रही हैं (सबसे उल्लेखनीय हैं आग और बिजली), हालांकि, हमारे इस ऐतिहासिक क्षण में जो बात अलग है, वह है वह गति जिसके साथ सामान्य प्रयोजन प्रौद्योगिकियों को हमारे समाज, अर्थव्यवस्थाओं और घरों में पेश किया जा रहा है. एआई पिछली सभी तकनीक़ों जैसे इंटरनेट, मोबाइल फ़ोन, इंटरनेट ऑफ थिंग्स (आईओटी) और सिंथेटिक बायोलॉजी के ऊपर आधारित है. यह तेज़ एकीकरण एक ज़बरदस्त आर्थिक और सामाजिक अवसर प्रस्तुत करता है, लेकिन साथ ही साथ इससे सामाजिक विपत्ति की भी आशंका पैदा होती है.
चूंकि हम उभरती प्रौद्योगिकियों के प्रसार के युग में रहते हैं, यह लोगों की निर्णय लेने की प्रक्रिया को प्रभावित करने वाली, निर्णय सरंचना की शक्ति, की सराहना किए जाने का समय है. इसे प्रदर्शित करने के लिए सबसे अच्छा उदाहरण हमारे समाज के ताने-बाने पर पड़ा सोशल मीडिया की निर्णय सरंचना का प्रभाव है, जिसे अब तक कम करके आंका गया है और इसकी पर्याप्त सराहना नहीं की गई है. सोशल मीडिया एक निर्भीक तकनीक़ी कल्पना के आधार पर बनाया गया था - "क्या होगा यदि एक ऐसा डिजिटल प्लेटफ़ॉर्म हो, जहां हर कोई अपने सभी दोस्तों के संपर्क में रह सके". तब से, हालांकि यह आपके दोस्तों से जुड़ने के लिए एक मंच बना हुआ है लेकिन इसके साथ ही इसका विस्तार व्यवसायों के लिए एक उपयोगिता, एक सटीक विज्ञापन मंच और सार्वजनिक अधिकारियों और आतंकवादियों के लिए एक समान रूप से लाउडस्पीकर बनने तक हो गया है.
बीते सालों में एल्गोरिदम बदलने शुरू हो गए और तकनीक़विदों और सॉफ़्टवेयर इंजीनियरों को कहा गया था कि वे सोशल मीडिया यूज़र्स को यथासंभव लंबे समय तक इन प्लेटफार्मों पर बनाए रखने के लिए प्रोत्साहित करने वाली एल्गोरिदम प्रणालियों को डिज़ाइन करें ताकि वे अधिक से अधिक विज्ञापन देख सकें.
बीते सालों में एल्गोरिदम बदलने शुरू हो गए और तकनीक़विदों और सॉफ़्टवेयर इंजीनियरों को कहा गया था कि वे सोशल मीडिया यूज़र्स (उपयोगकर्ता) को यथासंभव लंबे समय तक इन प्लेटफार्मों पर बनाए रखने के लिए प्रोत्साहित करने वाली एल्गोरिदम प्रणालियों को डिज़ाइन करें ताकि वे अधिक से अधिक विज्ञापन देख सकें. ऐसा ही एक उदाहरण फ़ेसबुक है जहां इसका 97.5 प्रतिशत सभी राजस्व विज्ञापनों से आता है. सामाजिक प्रभाव की परवाह किए बिना केवल विज्ञापन राजस्व पर केंद्रित कॉर्पोरेट फ़ैसलों की वजह से पूरी जनसंख्या के सभी वर्गों के मानसिक स्वास्थ्य पर काफ़ी प्रभाव पड़ा है.
एल्गोरिदम निर्णय सरंचना जो पूरी तरह कॉर्पोरेट फ़ायदों के हित में काम करती है, ने व्यक्तिगत स्तर पर मानसिक कल्याण पर प्रतिकूल प्रभाव डाला है. वॉल स्ट्रीट जर्नल ने टिकटॉक के एल्गोरिदम की तहकीकात कर एक रिपोर्ट की और पाया कि यह वर्गीकरण करने और दर्शकों को उन वस्तुओं को दिखाने में सक्षम था, जिनमें वे रुचि रखते थे, भले ही उन्होंने स्पष्ट रूप से इसकी खोज न की हो. उन्होंने पाया कि अधिक चिंताजनक बात यह है कि लोगों के इस प्लेटफ़ॉर्म पर अधिक वीडियो देखते रहते की वजह अनिवार्य रूप से यह नहीं है कि वे किस चीज़ में रुचि रखते हैं और क्या पसंद करते हैं, बल्कि यह है कि वे किस चीज़ के लिए सबसे अधिक "संवेदनशील" हैं. यह पाया गया है कि फ़ेसबुक और इंस्टाग्राम किशोरों, खासकर लड़कियों के लिए शरीर की छवि के मुद्दों को बिगाड़ते हैं. मेटा इस बात से अवगत है कि इसके प्लेटफ़ॉर्म बच्चों और किशोरों में आत्म-सम्मान की कमी कैसे पैदा करते हैं. आत्महत्या करने वाले किशोरों के सोशल मीडिया के उपयोग पर किए गए एक अध्ययन में सोशल मीडिया के हानिकारक प्रभावों से जुड़े हुए कई विषय सामने आए जैसे कि "दूसरों पर निर्भरता, प्रतिक्रिया को उकसाना, साइबर उत्पीड़न और मनोवैज्ञानिक रूप से फंसाना". सोशल मीडिया पर एआई के इन नकारात्मक परिणामों का पूरी तरह से नियंत्रित नहीं किया गया है और ये आज भी नुक़सान पहुंचा रहे हैं.
समाज के स्तर पर, एल्गोरिदमिक निर्णय सरंचना जो पूरी तरह से सिर्फ़ कॉर्पोरेट के हितों का ध्यान रखती है, डाउनस्ट्रीम ऑर्डर प्रभावों (डाउनस्ट्रीम ऑर्डर प्रभाव, किसी निर्णय के अप्रत्यक्ष और दीर्घकालिक परिणाम होते हैं. ये परिणाम उन लोगों को भी प्रभावित कर सकते हैं जो सीधे तौर पर निर्णय से जुड़े नहीं हैं.) का ख़्याल रखे बिना ध्रुवीकृत और खंडित समाजों का निर्माण कर चुकी है. मानवतावादी प्रौद्योगिकी केंद्र (सेटर फॉर ह्यूमेन टेक्नोलॉजी) ने अज़ा रस्किन और ट्रिस्टन हैरिस द्वारा प्रस्तुत एआई दुविधा प्रस्तुति में समाज पर एआई के प्रभाव को रेखांकित किया है. इस प्रस्तुति में, एआई और समाज के संवाद के बीच अंदर दर्शाए गए हैं. इसमें एआई के साथ समाज की पहली बातचीत, जो सोशल मीडिया के माध्यम से हुए संवाद को माना गया है; और 2023 में वर्तमान और उभरते उत्पादक एआई टूल के साथ होने वाली समाज के संवाद को वह दूसरी बातचीत बताते हैं.
सीमा से अधिक सूचनाएं, डूमस्क्रॉलिंग, व्यसन, ध्यान की अवधि का घटना, बच्चों में कामुकता, ध्रुवीकरण, फ़ेक न्यूज़, पंथ निर्माणशाला, डीपफ़ेक बॉट और लोकतंत्र में टूटन कुछ ऐसे नुक़सान हैं जिनकी पहचान सोशल मीडिया के साथ समाज के एल्गोरिदमिक संवाद के ज़रिए की गई है.
सीमा से अधिक सूचनाएं, डूमस्क्रॉलिंग, व्यसन, ध्यान की अवधि का घटना, बच्चों में कामुकता, ध्रुवीकरण, फ़ेक न्यूज़, पंथ निर्माणशाला, डीपफ़ेक बॉट और लोकतंत्र में टूटन कुछ ऐसे नुक़सान हैं जिनकी पहचान सोशल मीडिया के साथ समाज के एल्गोरिदमिक संवाद के ज़रिए की गई है. हालांकि सॉफ़्टवेयर डेवलपर्स का कोई दुर्भावनापूर्ण इरादा नहीं था, लेकिन उन्होंने अपने कर्तव्य की अनदेखी कर दी जब उन्होंने केवल ऐसे एल्गोरिदम बनाने पर ध्यान केंद्रित किया जो प्लेटफ़ॉर्म पर जुड़ाव को अधिकतम बनाने के लिए काम करते थे. रास्किन और हैरिस का आकलन है कि एआई के साथ आगे का संवाद वास्तविकता के खत्म होने के रूप में सामने आ रहा है, जिसकी वजह लगभग हर चीज़ का नक़ली होना है और इसका परिणाम विश्वास के ख़त्म होने के रूप में हो रहा है. अपनी पुस्तक द कमिंग वेव में, गूगल के डीपमाइंड के संस्थापक मुस्तफ़ा सुलेमान भी उत्पादक एआई की सर्वव्यापी स्वरूप और साइबर हथियार बनाने, कोड का लाभ उठाने और हमारे जीव विज्ञान को सबके लिए सुलभ बनाने की इसकी क्षमता के बारे में अपनी चिंता ज़़ाहिर करते हैं. ये वह चिंताएं हैं जो अब हर दिन सामने आ रही हैं, इन्हें पूरी तरह से नियंत्रित नहीं किया गया है और आज ये उल्लेखनीय खतरे हैं.
हालांकि मौजूदा एल्गोरिदमों से पैदा हुई सामाजिक चुनौतियों से जूझना महत्वपूर्ण है, लेकिन वहीं नए एल्गोरिदम और नए तरीके हैं जिनके माध्यम से वे हमारे जीवन में गहराई से शामिल हो जाएंगे.
अपने सबसे अच्छे दोस्त के गुज़र जाने के बाद दुख से निपटने के लिए एक तरीके के रूप में, यूजीनिया कुयदा ने अपने सभी टेक्स्ट आदान-प्रदान के आधार पर उसका एक संवादी एआई बॉट बनाया. उसने ऐसा इसलिए किया ताकि वह अपने दोस्त के मरने के बाद भी उससे चैट करना जारी रख सके. इस अनुभव के बाद, उसने रेप्लिका नाम की कंपनी बनाई जहां कोई भी चैट करने के लिए एक व्यक्तिगत एआई साथी बना सकता है. इसे मिले प्रशंसापत्रों में कई प्रसन्न यूज़र्स के बयान शामिल हैं जो महसूस करते हैं कि उन्हें एक दोस्त मिल गया है और इस डिजिटल एल्गोरिदम साथी ने उनके अकेलेपन को कम किया है. वास्तव में, रेप्लिका और अन्य डिजिटल साथी एआई कंपनियां एक मूल्यवान तकनीक़ बना रही हैं जो बढ़ती सामाजिक समस्या का समाधान करती है. मई 2023 में अमेरिका के सर्जन जनरल ने अकेलेपन और सामाजिक अलगाव के जनस्वास्थ्य संकट को उजागर करने वाली एक सलाहकार रिपोर्ट जारी की. वर्तमान में, दुनिया के दो देशों- यूनाइटेड किंगडम और जापान- ने अकेलेपन के लिए मंत्री नियुक्त किए हैं. हालांकि, अध्ययनों से पता चलता है कि अकेलेपन और सामाजिक बहिष्कार की यह महामारी अफ़्रीका और भारत के साथ-साथ दुनिया के अन्य हिस्सों में भी मज़बूती के साथ मौजूद है, जहां अभी तक अध्ययन नहीं किए गए हैं.
ऐसे युग में जहां अकेलापन और अलगाव बढ़ रहा है, एल्गोरिदम डिज़ाइन करने वालों को एक बड़ी भूमिका निभानी है, ऐसे एल्गोरिदम सिस्टम बनाने हैं जो सामाजिक सामंजस्य को नष्ट न करते हों, अकेलेपन को बढ़ाते न हों, या किशोरों को आत्महत्या करने के लिए प्रेरित न करते हैं.
सोशल मीडिया के साथ एआई के समाज पर पड़ने वाले प्रतिकूल प्रभावों को देखते हुए, जैसे अकेलेपन की बढ़ती समस्या को कम करने के लिए नए एआई-आधारित चैटबॉट और डिजिटल साथी बनाए जाते हैं, सेंटर फॉर ह्यूमन टेक्नोलॉजी द्वारा उल्लिखित "मानवीय तकनीक़ के तीन नियमों" में पहले नियम पर विचार करना ज़रूरी है: "जब आप एक नई तकनीक़ का अविष्कार करते हैं, तो आप एक नई श्रेणी की ज़िम्मेदारियों को उजागर करते हैं." यह नियम न केवल उन लोगों के लिए प्रासंगिक है जो एक नई तकनीक़ का अविष्कार करते हैं, बल्कि यह उन सभी पर लागू होता है जो इस तकनीक़ का उपयोग करते हैं. यूरोपीय संघ के सामान्य डाटा संरक्षण विनियमन (जीडीपीआर) नीति में, जो यह नियंत्रित करती है कि व्यक्तिगत डाटा का प्रबंधन कैसे किया जाता है, "भुलाए जाने का अधिकार" पर एक खंड है, जिसकी आवश्यकता तब तक नहीं थी जब तक कंप्यूटर हमें हमेशा के लिए याद नहीं रख सकते थे. क्या कंपनियों को किसी व्यक्ति के जीवनकाल में डिजिटल साथियों के क्लाउड इन्फ़्रास्ट्रक्चर को बनाए रखने के लिए नए कानून बनाने की आवश्यकता होगी? क्या इन एल्गोरिदम साथियों के लिए अधिकारों की आवश्यकता होगी ताकि जो उन पर निर्भर हैं उन्हें दुखी न होना पड़े, या उनके बिना अकेलापन महसूस न करना पड़े? क्या होगा अगर लोग अपने एआई साथी से शादी करना चाहें तो? यदि एआई साथी सामाजिक बुनियादी ढांचे का एक महत्वपूर्ण हिस्सा बन जाते हैं और मानवीय अंतरंगता का हिस्सा बन जाते हैं, तो इन अनुकूलित एल्गोरिदम और उन तक पहुंच की रक्षा के लिए नए कानून बनाने की आवश्यकता होगी.
समय के साथ, मौजूदा और नई एआई तकनीक़ों के सामाजिक प्रभावों को कम करने और प्रबंधित करने के लिए नई सरकारी नीतियां और विनियमन आ जाएंगे, फिर भी, तकनीक़ी प्रगति की वर्तमान अवस्था उस गति से अधिक है जिस गति से विनियमन कानून बनाए जाते हैं. विनियमन की अनुपस्थिति का मतलब यह नहीं है कि कंपनियों को इसके लिए अपनी ज़िम्मेदारी छोड़ देनी चाहिए. ऐसे युग में जहां अकेलापन और अलगाव बढ़ रहा है, एल्गोरिदम डिज़ाइन करने वालों को एक बड़ी भूमिका निभानी है, ऐसे एल्गोरिदम सिस्टम बनाने हैं जो सामाजिक सामंजस्य को नष्ट न करते हों, अकेलेपन को बढ़ाते न हों, या किशोरों को आत्महत्या करने के लिए प्रेरित न करते हैं. जो लोग दूसरों द्वारा निर्मित एल्गोरिदम का लाभ उठाते हैं, उन्हें यह सुनिश्चित करने के लिए ख़ुद को और दूसरों को जवाबदेह ठहराने की आवश्यकता है कि एल्गोरिदम प्रणालियों से कोई नुकसान नहीं होता है.
इस बीच, आज हम सब को जिस अद्भुत तकनीक़ी कल्पना को अपनाना चाहिए, वह ऐसी एल्गोरिदम प्रणाली तैयार करना है जो मानव विकास और सामाजिक-आर्थिक समृद्धि के लिए प्रोत्साहन पैदा करे.
(लिडिया कोस्टोपोलोस एक रणनीति और नवाचार सलाहकार हैं.)
The views expressed above belong to the author(s). ORF research and analyses now available on Telegram! Click here to access our curated content — blogs, longforms and interviews.
PREV
