करीब सौ साल पहले जीके चेस्टर्टन ने पाया था कि सभ्यता की सबसे बड़ी गलती यह है कि हम इंसानों को व्यवस्था (सिस्टम) के मुताबिक ढालने की कोशिश करते हैं, न कि व्यवस्था को इंसानों के मुताबिक. हमारी दुनिया आज कहीं आधुनिक एल्गोरिद्मिक सिस्टम के जरिये बड़े स्तर पर व्यवस्थागत रूप ले रही है. मशीन लर्निंग ने हमें एक ऐसी दुनिया दी है, जहां किसी भी चीज की नकल तैयार की जा सकती है और किसी भी चीज को जाना-समझा जा सकता है. सूचनाओं के मामूली टुकड़ों में सिग्नेचर को भी जोड़ा जा सकता है, जिसे कितनी भी कोशिश के बाद हटाना शायद मुश्किल हो. कहने का मतलब यह है कि कोई ऐसी जगह नहीं है, जहां कुछ भी छुपाया जा सके. किसी भी चीज पर ऐतबार करना मुश्किल है और किसी पर भी भरोसा नहीं किया जा सकता. ये सिस्टम इतने पेचीदा और अपारदर्शी होते हैं कि अक्सर इंसानों के मार्फत इनकी मुकम्मल निगरानी नहीं की जाती. इसलिए ऐसे सिस्टम पर आधारित सभ्यता अतीत की गलतियों को दोहराएगी, वह भी कभी अधिक तेजी और कहीं बड़े स्तर पर. अगर इन गलतियों को रोकना है तो हमें लोगों और समाज को बेजा तरीके से सिस्टम पर आश्रित होने से रोकना होगा. इसके लिए हमें बहुत सावधानी बरतनी होगी. क्या भविष्य की हमारी सभ्यताएं इंसानी जिंदगी को बेहतर बना पाएंगी या छोटे अमीर अभिजात्य वर्ग के लिए इंसानों की तकलीफ और बढ़ाएंगी? ये तकनीकें हम पर थोपी जाएंगी या इन्हें सहमति से लागू किया जाएगा, इसी से हमारा भविष्य तय होगा कि इंसानी भावनाओं के साथ तानाशाही भरे रवैये के साथ नाइंसाफी होगी या उसे आजादी मिलेगी.
ये तकनीकें हम पर थोपी जाएंगी या इन्हें सहमति से लागू किया जाएगा, इसी से हमारा भविष्य तय होगा कि इंसानी भावनाओं के साथ तानाशाही भरे रवैये के साथ नाइंसाफी होगी या उसे आजादी मिलेगी.
मशीन का खेल
आज नए ब्लू-कॉलर वर्कर्स के अच्छे होने का पैमाना सिर्फ उसका काम नहीं है. वह कैसा वर्कर है, यह बात इससे तय होती है कि वह एल्गोरिद्मिक खतरे और बारिकियों के बीच किस तरह से काम करता है. उस पर लगातार नजर रखी जाती है और कई तरह से उसे प्रताड़ित भी किया जाता है. इसमें भी कोई शक नहीं है कि ऐसी तकनीक कंपनियों और कर्मचारियों दोनों के लिए मददगार साबित हो सकती हैं. उदाहरण के लिए, वर्कर्स को याद दिलाना कि वे सही सुरक्षा उपकरणों से लैस रहें या ट्रेनिंग में भी इनसे मदद मिल सकती है. हालांकि, यह हमें सुनिश्चित करना होगा कि इन तकनीक का इस्तेमाल संवेदनशील तरीके से हो और वे वर्कर्स की इंसानी जरूरतों का सम्मान करें, खासतौर पर जब वे घर से काम कर रहे हों, जिसमें कि कई वर्कर्स से घर की निगरानी की इजाजत देने की उम्मीद की जा रही है. अगर हम चाहते हैं कि ये तकनीक इंसानों पर जुल्म-ओ-सितम का सबब न बनें तो इनका संवेदनशीलता के साथ इस्तेमाल करना जरूरी है.
इसके साथ. इन तकनीकों के बारे में यह भी साबित करना होगा कि इन पर भरोसा किया जा सकता है, ये भेदभाव नहीं करतीं और उन्हें इस तरह से तैयार किया गया है कि सबसे पहले वे वर्कर्स की ज़रूरत पूरी करें, न कि मालिकों की. लोग किसी जुल्म करने वाले इंसान के प्रति बगावत कर सकते हैं, लेकिन दमनकारी फेसलेस सिस्टम के ख़िलाफ उनके लिए खड़ा होना आसान नहीं होगा. वह सिस्टम, जो उन पर कई छोटे-बड़े अत्याचार कर सकता है. जो लोग ऐसे सिस्टम को स्वीकार करते हैं और उनसे जुड़ते हैं, वह उन्हें निचोड़ लेता है. यह उन लोगों को भ्रष्ट बनाता है, जो उन्हें चलाते हैं. भावहीन चेहरे वाले सरकारी नुमाइंदे जो बगैर सोचे-समझे ऐसे सिस्टम की सेवा करते हैं, वे आखिरकार अपनी तार्किक क्षमता और संवेदनाएं गंवा बैठते हैं. वे ऑटोमेशन के प्रभाव में आकर संवेदनाशून्य बन जाते हैं.
भावहीन चेहरे वाले सरकारी नुमाइंदे जो बगैर सोचे-समझे ऐसे सिस्टम की सेवा करते हैं, वे आखिरकार अपनी तार्किक क्षमता और संवेदनाएं गंवा बैठते हैं. वे ऑटोमेशन के प्रभाव में आकर संवेदनाशून्य बन जाते हैं.
ईश्वर जैसी ताक़त
ऐसी व्यवस्था के विरोधी भी होंगे, जो इन ज्यादतियों के खिलाफ आवाज उठाएंगे, लेकिन बाद में व्यवस्था के विमर्श को स्वीकार कर लेंगे. यहां यह सवाल भी उठता है कि जिनके पास ईश्वर के समान एल्गो पावर होगी, वे उनके साथ कैसा सलूक करेंगे, जो विरोध में आवाज उठाएंगे? ये ईश्वर जिन अविश्वासियों को बर्बाद करना चाहेंगे, पहले वे उन्हें पागलपन की हद तक पहुंचाएंगे या उन्हें पागल करार देंगे. पूर्वी जर्मनी का स्टेट सिक्यॉरिटी ब्यूरो, स्टासी भी इसी तरीके का इस्तेमाल करता था. 1970 और 1980 के दशक में स्टासी राजनीतिक विरोध को दबाने के लिए मनोवैज्ञानिक युद्ध के तौरतरीके अपनाता था. वह भी इस तरह से कि पीड़ित व्यक्ति को इसका पता न चले. वह राजनीतिक विरोधियों को इस तरह से बरगलाता था कि उन्हें सचाई पर संदेह होने लगे. इसके साथ ही वह विरोधियों के अजीजों-रिश्तेदारों को उनके ख़िलाफ कर देता था. स्टासी इस ल़ड़ाई को उस हद तक ले जाता था, जब तक कि विरोधी वहां की कम्युनिस्ट सत्ता के लिए खतरा न रहे. अगर बड़ी टेक्नोलॉजी कंपनियों के आज के कामकाज पर नजर डालें तो उससे एक ऐसे भविष्य की तस्वीर उभरती है, जहां अवांछित लोगों को व्यवस्थागत रूप से प्रताड़ित किया जाएगा और उसके लिए इंटेलिजेंस एल्गोरिद्म की मदद ली जाएगी. लोगों का जो विशाल डेटा इनके पास होगा, उसकी मदद से विरोधियों को व्यक्तिगत तौर पर निशाना बनाया जा सकेगा.
अदृश्य युद्ध
कंपनियां आमतौर पर सरकार की ओर से सख्ती करेंगी, जो कि एक फासीवादी सरकार की निशानी होती है. सरकार और बड़ी कंपनियों के बीच मिलीभगत ऐसी होगी कि जो अवैध फोन टैपिंग कर रहा होगा, उसे संबंधित कंपनी के बोर्ड में जगह मिली होगी. ऐसे में कंपनी जान-बूझकर करोड़ों लोगों की जेबों और घरों में मौजूद उपकरणों के जरिये उनकी जासूसी करेगी, दूसरी तरफ वह सरकारी खुफिया एजेंसियों के साथ सैकड़ों करोड़ डॉलर के करार भी करेगी. इतना ही नहीं, ये कंपनियां समानांतर रूप से अपनी खुफिया एजेंसियां चलाएंगी और जिस देश की सरकार उनके मुफीद नहीं होगी, वे उनसे सीधे तौर पर भिड़ेंगी.
अगर बड़ी टेक्नोलॉजी कंपनियों के आज के कामकाज पर नजर डालें तो उससे एक ऐसे भविष्य की तस्वीर उभरती है, जहां अवांछित लोगों को व्यवस्थागत रूप से प्रताड़ित किया जाएगा और उसके लिए इंटेलिजेंस एल्गोरिद्म की मदद ली जाएगी. लोगों का जो विशाल डेटा इनके पास होगा, उसकी मदद से विरोधियों को व्यक्तिगत तौर पर निशाना बनाया जा सकेगा.
सरकार और बड़ी टेक्नोलॉजी कंपनियों की मिली-जुली ताकत ने युद्ध का एक नया मैदान बना दिया है. इस युद्ध का मकसद लोगों के दिमाग पर काबिज होना, उन्हें प्रभावित करना है. इसमें देशी-विदेशी नागरिक दोनों ही शामिल हैं. सोशल क्रेडिट सिस्टम नागरिकों की जिंदगी को ट्रैक करता है. इससे जो सूचनाएं हासिल की जा रही हैं, उनकी मदद से फायदा उठाने के लिए मौके की तलाश की जा सकती है. सेंट्रल बैंक की डिजिटल करंसी से ऐसा डेटा मुहैया कराया जा सकता है, जो उसे लोगों की खरीदारी से हासिल हुआ हो. इसका इस्तेमाल ऐसे लोगों को सजा देने या उनके अधिकार छीनने के लिए किया जा सकता है, जो अवांछित व्यवहार करते हों.
सूचनाओं की रक्षा करना आज बहुत मुश्किल हो गया है. आज आपके एक कंप्यूटर के अंदर दर्जन भर संभावित सब-कंप्यूटर हैं, जिनका दुरुपयोग किया जा सकता है. इसलिए डेटा की सुरक्षा की कोशिश का कोई मतलब नहीं है. वैश्विक स्तर पर एक साइबर शीत युद्ध शुरू हो रहा है, जिसमें साइबर युद्ध शुरू करने वाला उससे खुद के अलग दिखने का दावा करता है. इस तरह का चलन बढ़ रहा है. हालात ऐसे हो गए हैं कि सहयोगी ही एक दूसरे की पीठ में छुरा घोंप रहे हैं. खुफिया एजेंसियां दुश्मन देशों पर साइबर हमले करके अपने देश के आर्थिक हितों की रक्षा कर रही हैं. यही नहीं, दूसरे देशों की सूचनाओं में वे जो सेंध लगा रही हैं, उसे वे अपने यहां की कंपनियों को दे रही हैं.
तकनीक के दुष्प्रभाव
ये तकनीक लगातार ताकतवर हो रही हैं और इनके फायदे भी संदेहास्पद हैं और ये बातें उन इंसानों को देखकर पता चलती हैं, जिन्होंने इनका तजुर्बा किया है. आज युवा आबादी का बड़ा हिस्सा ऐसा है, जो इन तकनीकों से खुद को मानसिक क्षति की बात मानता है. ब्रिटेन में हर आठ में से एक नौजवान ऐसा है, जिसे मन को सामान्य रखने के लिए प्रोफेशनल हेल्प लेनी पड़ रही है, जबकि 17 प्रतिशत बालिग आबादी को पावरफुल एंटी-डिप्रेशन दवाएं लेनी पड़ रही हैं. ये दवाएं ऐसी हैं, जिनके जबरदस्त साइड इफेक्ट होते हैं.
सरकार और बड़ी टेक्नोलॉजी कंपनियों की मिली-जुली ताकत ने युद्ध का एक नया मैदान बना दिया है. इस युद्ध का मकसद लोगों के दिमाग पर काबिज होना, उन्हें प्रभावित करना है. इसमें देशी-विदेशी नागरिक दोनों ही शामिल हैं.
कोई भी इंसान इस कैद से खुश नहीं है, खासतौर पर यह देखते हुए कि इसे हमने खुद ही तैयार किया है. हमारी इन दुश्वारियों की वजह यह है कि हमारी जिंदगी में ऐसी तकनीक का दखल बढ़ा है, जो हमें गुलाम बना रही है. ये ऐसी तकनीकें हैं, जिनसे हमारी कोई जरूरत पूरी नहीं हो रही, इसके बावजूद इनसे हम असाधारण उत्तेजना महसूस करते हैं.
जादुई मशीनें
इन तकनीक में पैटर्न के अंदर पैटर्न की पहचान करने की जो क्षमता है, वह इस मामले में इंसानी योग्यता से कहीं अधिक है. सच पूछिए तो हमारे लिए इसे समझा पाना तक मुश्किल है. जैसे कि आर्थर क्लार्क ने अपनी किताब, ‘प्रोफाइल्स ऑफ द फ्यूचरः एन इन्क्वायरी इनटु द लिमिट्स ऑफ द पॉसिबल’ में लिखा था कि अत्याधुनिक तकनीक और जादू में फर्क करना मुश्किल होगा. उन्होंने लिखा था कि ऐसे जादू का इस्तेमाल मानव की सेवा के लिए होना चाहिए, न कि उस पर शासन करने के लिए.
दुनिया की दिग्गज टेक कंपनियों की ताकत बढ़ रही है और सरकारों के खुफिया तंत्र के साथ उनका गठजोड़ भी मजबूत हो रहा है. ये इकाइयां हमारे बारे में सबकुछ जान सकती हैं, लेकिन इसके साथ वे अपनी इन हरकतों को छुपा भी सकती हैं. ऐसे खतरे से बचने के लिए एक अनिवार्य, क्रांतिकारी और ऐसी पारदर्शिता की जरूरत है, जिसे क्रिप्टोग्राफी की मदद से सुरक्षित रखा जाए. आइए इसे एक उदाहरण से समझते हैं. किसी कमर्शियल एयरक्राफ्ट में दो अनिवार्य डेटा रिकॉर्डर यानी ब्लैक बॉक्स होते हैं. उनमें से एक एयरक्राफ्ट को निगरानी करता है और दूसरा कॉकपिट में होने वाली बातें रिकॉर्ड करता है. कोई दुर्घटना क्यों हुई, इसे समझने के लिए दोनों ब्लैक बॉक्स की दरकार पड़ती है. इंसानी तकनीक को लेकर भी हमें ऐसे ही रुख की जरूरत है. पारदर्शिता ही वह स्तंभ है, जिस पर एथिकल टेक्नोलॉजी का हर पहलू टिका होता है. किसी सिस्टम, उसके कामकाज और यहां तक कि किसी संगठन की खूबियों-खामियों को समझना जरूरी है. उन लोगों को भी, जिनके हाथ में ऐसे सिस्टम या संगठन की कमान होती है. पारदर्शिता होने पर हमें पता चल सकता है कि किसी संगठन के अंदर ईमानदारी से काम करने के लिए किस तरह से प्रोत्साहन दिया जाता है. इससे हमें किसी गलती का पता चलता है और यह भी कि भविष्य में उसे किस तरह से ठीक किया जा सकता है. इसके बाद ही पड़ताल करने पर पूर्वाग्रह और जवाबदेही का पता चल सकता है. ऐसा होने पर ही निजता, आर्थिक पहलुओं और इंसान के सम्मान की रक्षा की जा सकती है. इस तरह की व्यवस्था होने पर इस बात का भी पता लगाया जा सकता है कि यूजर की पसंद का सम्मान किया जा रहा है या नहीं.
कोई भी इंसान इस कैद से खुश नहीं है, खासतौर पर यह देखते हुए कि इसे हमने खुद ही तैयार किया है. हमारी इन दुश्वारियों की वजह यह है कि हमारी जिंदगी में ऐसी तकनीक का दखल बढ़ा है, जो हमें गुलाम बना रही है. ये ऐसी तकनीकें हैं, जिनसे हमारी कोई जरूरत पूरी नहीं हो रही, इसके बावजूद इनसे हम असाधारण उत्तेजना महसूस करते हैं.
बेहतरी की ओर
ऐसी तकनीक जो इंसानों के प्रति संवेदनशील हो, उसे तुरंत हासिल नहीं किया जा सकता. यह एक ऐसी प्रक्रिया से हो सकता है, जिसमें नुकसान पहुंचाने वाली तकनीक को बेहतर सुरक्षा उपायों के साथ हटाना होगा. किसी तकनीक के साथ मूल्यों और आदर्शों को जोड़ना हमारे वक्त की सबसे बड़ी चुनौती है. अगर हम इसमें नाकाम रहते हैं तो तानाशाह सरकारें हमारी भावनाओं को लंबे वक्त तक कुचल सकती हैं, लेकिन अगर हमें इसमें जीत मिलती है, भले ही वह जीत मामूली हो तो इनसे होने वाले फायदों का कहीं बड़ा असर हम पर हो सकता है.
इंसानों के प्रति संवेदनशील और भरोसेमंद एआई किसी अव्यवस्था में भी सार्थक मतलब तलाश सकती है, वह ब्रह्मांड के रहस्यों से परदा हटा सकती है. ऐसी तकनीक हमारे लिए ऐसे समाधान तलाश सकती है, जो हम अपने बूते कभी नहीं ढूंढ सकते. ऐसी तकनीक हमारी रचनात्मकता को नए मुकाम पर पहुंचा सकती है. इससे हमें नए आइडिया मिल सकते हैं और वह उन्हें वास्तविकता में बदल सकती है. वह हमारे रूटीन काम को मजेदार और सुकून भरा बना सकती है.
इस तरह की आर्टिफिशियल इंटेलिजेंस तकनीक से प्राकृतिक और सामाजिक परिवेश को हम किस तरह से प्रभावित कर रहे हैं, इसका भी पता चल सकता है. हम बेवजह की दख़लंदाजी कम करके इस परिवेश को संरक्षित रख सकते हैं. इससे पूंजीवाद के लाभ लंबे वक्त तक हासिल करने में मदद मिलेगी. यह तकनीक हमारी दोस्त और विश्वासपात्र हो सकती है. यह हमें खुश रखने में मददगार होने के साथ और मज़बूत बना सकती है. इससे हमें तनाव का बेहतर ढंग से सामना करने में मदद मिल सकती है. इससे हम उन लोगों के बीच भी दोस्ती करा सकते हैं, जो एक दूसरे को फूटी आंख नहीं सुहाते. यानी यह शांति का पैगाम भी ला सकती है. यह हमें आपसी फायदे के लिए साथ ला सकती है. विजयी और पराजित के कुचक्र को खत्म कर सकती है, जिससे कुछ भी हासिल नहीं होता. यह दुनिया को एक लक्ष्य के लिए साथ ला सकती है, एकजुट कर सकती है.
ये सारी संभावनाएं हमारे सामने हैं. अच्छी और बुरी दोनों हीं संभावनाएं. ऐसे में आने वाली अनगिनत पीढ़ियों की खातिर हमें नरम दिल मशीनों का एक समाज बनाना होगा.
The views expressed above belong to the author(s). ORF research and analyses now available on Telegram! Click here to access our curated content — blogs, longforms and interviews.