Image Source: Getty
सोशल मीडिया में एल्गोरिदम बेहद अहम होता है. एल्गोरिदम एक ऐसी तकनीक़ है जो सोशल मीडिया उपयोगकर्ता की पसंद और नापसंद का पता लगाकर, उसे उसकी दिलचस्पी वाले विषय से जुड़े कंटेंट को प्राथमिकता के आधार पर दिखाता है. वर्तमान में एल्गोरिदम सोशल मीडिया पर कंटेंट के प्रसार और उपयोगकर्ता को जोड़े रखने का प्रमुख साधन बन गया है. हालांकि, एल्गोरिदम को इस प्रकार से डिज़ाइन किया जाता है या कहा जाए कि इसकी प्रोग्रामिंग इस प्रकार की जाती है, जिससे सोशल मीडिया उपयोगकर्ता को उसकी पसंद का कंटेंट उपलब्ध होता रहे और उन्हें अपनी मनपसंद चीज़ों को देखने, पढ़ने और सुनने में आसानी हो. लेकिन अक्सर यह देखने में आता है कि एल्गोरिदम के ज़रिए जाने-अनजाने में कट्टरपंथी विचारधारा को बढ़ावा देने वाले और समाज को बांटने वाले नैरेटिव्स को भी बढ़ावा दिया जाता है. ज़ाहिर है कि सोशल मीडिया प्लेटफॉर्म्स पर इस प्रकार के एल्गोरिदम को बढ़ावा देने से न केवल सामाजिक अलगाव बढ़ सकता है, बल्कि इससे दुष्प्रचार और गलत सूचनाओं का भी प्रसार हो सकता है, साथ ही कट्टरपंथी गुटों की पहुंच और उनके प्रभुत्व में भी इज़ाफा हो सकता है. इस तरह की घटना को "एल्गोरिदमिक रेडिकलाइज़ेशन" भी कहा जाता है. यानी समाज में चरमपंथी विचारों को बढ़ाने की एक ऐसी प्रक्रिया, जिसमें सोशल मीडिया प्लेटफॉर्म्स का इस्तेमाल करने वाले लोगों की सोच को आहिस्ता-आहिस्ता भटकाव की तरफ मोड़ा जाता है. इतना ही नहीं, इसके माध्यम से सोशल मीडिया उपयोगकर्ताओं को सामाजिक स्तर पर भेदभाव बढ़ाने वाला कंटेंट परोसा जाता है और इस प्रकार से उनकी राय-विचार को बदलने की कोशिश की जाती है.
इस तरह की घटना को "एल्गोरिदमिक रेडिकलाइज़ेशन" भी कहा जाता है. यानी समाज में चरमपंथी विचारों को बढ़ाने की एक ऐसी प्रक्रिया, जिसमें सोशल मीडिया प्लेटफॉर्म्स का इस्तेमाल करने वाले लोगों की सोच को आहिस्ता-आहिस्ता भटकाव की तरफ मोड़ा जाता है.
इस लेख में इस प्रकार के एल्गोरिदम को बढ़ावा देने के पीछे की पूरी प्रक्रिया और इसमें लिप्त लोगों के बारे में विस्तार से चर्चा की गई है, साथ ही सोशल मीडिया पर भेदभाव पैदा करने वाले एल्गोरिदम के ज़रिए कट्टरपंथी नैरेटिव्स और चरमपंथी विचारधारा के फैलाव से होने वाले दुष्प्रभाव के बारे में भी बताया गया है. इसके अलावा, इस लेख में एल्गोरिदम के ज़रिए कट्टरपंथ को बढ़ावा देने से जुड़ी चुनौतियों का समाधान तलाशने की भी कोशिश की गई है.
एल्गोरिदम क्या है और कैसे काम करता है?
अगर सोशल मीडिया एल्गोरिदम की बात की जाए, तो आसान भाषा में यह एक कंप्यूटराइज्ड प्रोग्रामिंग होती है, जिसमें सोशल मीडिया प्लेटफॉर्म्स के उपयोगकर्ताओं के तौर-तरीक़ों पर पैनी नज़र रखी जाती है. जैसे कि इसमें पता लगाया जाता है कि यूजर्स किस तरह के कंटेंट को देखते हैं और लाइक करते हैं. किस प्रकार के कंटेंट पर अपनी प्रतिक्रिया देते हैं, क्या शेयर करते हैं. यानी इसके ज़रिए उपयोगकर्ता की पसंद और नापसंद की निगरानी की जाती हैं और उससे जुड़े आंकड़ों को एकत्र किया जाता है. यूजर्स की दिलचस्पी के बारे में पता लगाकर मशीन लर्निंग मॉडल्स के जरिए उन्हें उनकी पसंद के मुताबिक़ ही कंटेंट प्रमुखता के साथ दिखाया जाता है और शेयर किया जाता है. कहने का मतलब है कि एल्गोरिदम के ज़रिए ऐसी पोस्ट और कंटेंट को अधिक से अधिक प्रसारित किया जाता है और यूजर्स को भेजा जाता है, जिन्हें पसंद करने वाले ज़्यादा संख्या में होते हैं. इससे ऐसे कंटेंट को अधिक यूजर्स मिलते हैं और पलक झपकते ही कंटेंट लोकप्रिय हो जाता है, यानी सोशल मीडिया पर वायरल हो जाता है. इतना ही नहीं, एल्गोरिदम सोशल मीडिया पर इको चैंबर भी बना सकते हैं, यानी एक ऐसा आभासी माहौल बना सकते हैं, जहां उपयोगकर्ता को केवल ऐसी जानकारी या कंटेंट देखने को मिलता है, जो उसके अपने विचारों के मुताबिक़ होता है और उन्हें मज़बूत करने का काम करता है.
इस प्रकार की एल्गोरिदम में हैशटैग भी बेहद अहम भूमिका निभाता है. यानी हैशटैग का इस्तेमाल करने से कंटेंट एक विशेष श्रेणी में शामिल हो जाता है और सोशल मीडिया पर हैशटैग एक कीवर्ड तरह काम करता है और खुद ब खुद उस खास विषय में दिलचस्पी रखने वाले यूजर्स के पास संबंधित कंटेंट को भेज सकता है, जिससे उस कंटेंट का फैलाव बहुत बढ़ जाता है. यानी हैशटैग का उपयोग करने से एल्गोरिदम को कहीं न कहीं उसके ज़रिए कंटेंट खोजने वाले उपयोगकर्ताओं तक पहुंच बनाने में मदद मिलती है. इस प्रकार से ट्रेंडिंग हैशटैग और विशेष हैशटैग वाली पोस्ट को एल्गोरिदम में प्रमुखता दी जाती है और इससे ज़्यादा तादाद में लोग उसे देख या पढ़ पाते हैं. कुल मिलाकर एल्गोरिदम्स और हैशटैग सोशल मीडिया पर विशेष श्रेणी के अधिक से अधिक यूजर्स तक कंटेंट पहुंचाते हैं, साथ ही यूजर्स के पसंदीदा विषय से संबंधित कंटेंट को बढ़ावा देते हैं.
एल्गोरिदम के ज़रिए दुष्प्रचार और कट्टरपंथ को बढ़ावा
तमाम सोशल मीडिया प्लेटफॉर्म्स जैसे कि यूट्यूब, टिकटॉक, फेसबुक, एक्स (जिसे पहले ट्विटर के नाम से जाना जाता था) और इंस्टाग्राम एल्गोरिदम का इस्तेमाल करते हैं और अपने यूजर्स की हर गतिविधि पर नज़र रखते हैं. ये प्लेटफॉर्म्स पता लगाते रहते हैं कि उनके उपयोगकर्ताओं की किस तरह की सामग्री में दिलचस्पी है और फिर उसके मुताबिक़ उन्हें उनकी पसंद का कंटेट भेजते हैं. देखा जाए तो एल्गोरिदम के ज़रिए यूजर्स द्वारा लाइक व शेयर किए जाने वाले कंटेट की निगरानी की जाती है और फिर उन आंकड़ों को जुटाकर यानी एक फीडबैक लूप बनाकर उसके अनुसार भड़काने वाले या विवादास्पद कंटेंट को बढ़ावा दिया जाता और इसी तरह की पोस्ट और वीडियो यूजर्स को भेजे जाते हैं. कहने का मतलब है कि एल्गोरिदम कहीं न कहीं समाज को बांटने वाली सामग्री और नैरेटिव्स को यूजर्स के सामने प्रस्तुत करते हैं. शिक्षाविद् जो बर्टन ने अपनी एक स्टडी में बताया है कि इस तरह के एल्गोरिदम डर, गुस्सा या आक्रोश के माध्यम से उपयोगकर्ताओं के साथ जुड़ाव को मज़बूत कर सकते हैं. उन्होंने यह भी बताया कि इस तरह के एल्गोरिदम अनजाने में सोशल मीडिया प्लेटफॉर्म्स के उपयोगकर्ताओं के बीच कट्टरपंथी विचारधाराओं को भी फैला सकते हैं, साथ ही इन मंचों पर ऐसा वातावरण पैदा कर सकते हैं, जिससे उपयोगकर्ता कट्टरपंथी कंटेंट के प्रति आकर्षित होने लगें और उनकी जिज्ञासा बढ़ने लगे.
अगर कट्टरपंथी समूहों द्वारा इन सोशल मीडिया प्लेटफॉर्म्स का उपयोग करने की बात की जाए तो इस्लामिक स्टेट (IS) और अल-क़ायदा इसके सबसे सटीक उदाहरण हैं. इन आतंकी समूहों ने अपनी विचारधारा फैलाने और लोगों को अपने साथ जोड़ने के लिए सोशल मीडिया प्लेटफॉर्म्स का जमकर इस्तेमाल किया है. जैसे कि इस्लामिक स्टेट द्वारा अपने फॉलोअर्स को जोड़े रखने और उनके दिलोदिमाग पर अपनी विचारधारा थोपने के लिए एक्स और टेलीग्राम का इस्तेमाल किया जाता है. लोगों को कट्टरपंथी बनाने के मकसद से इस्लामिक स्टेट की तरफ से लगातार ऐसा कंटेंट और वीडियो इन सोशल मीडिया मंचों पर पोस्ट किया जाता है, जिससे उनकी भावनाएं भड़कें और उनके विचार उग्र हो जाएं. इसी तरह से, आतंकवादी संगठन अल-क़ायदा यूट्यूब पर पोस्ट किए जाने अपने वीडियो में एन्क्रिप्टेड लिंक के साथ भड़काऊ भाषणों और प्रशिक्षण से संबंधि कंटेंट पोस्ट करता है. इसके अलावा अल-क़ायदा के कट्टरपंथियों द्वारा अपनी विचारधारा को बढ़ावा देने के लिए टिकटॉक का भी जमकर इस्तेमाल किया जाता है. टिकटॉक पर मौज़ूद "फॉर यू" पेज के ज़रिए यूजर्स को अक्सर चरमपंथ और अतंकवादी सोच को बढ़ाने वाली सामग्री भेजी जाती है और उन्हें एल्गोरिदम का इस्तेमाल कर कट्टरपंथी विचारधारा को उकसाने वाले कंटेंट के मकड़जाल में फंसाया जाता है.
ऐसा नहीं है कि एल्गोरिदम का इस्तेमाल सिर्फ चरमपंथी गुटों द्वारा अपनी कट्टर सोच को बढ़ावा देने के लिए किया जाता है. चुनावों के दौरान एल्गोरिदम का उपयोग फर्जी ख़बरें फैलाने और लोगों के बीच दुष्प्रचार के लिए भी किया जाता है. इसके चलते कई बार तो अलग-अलग गुटों के बीच हिंसा भी भड़क जाती है और वोटों का ध्रुवीकरण हो जाता है.
ऐसा नहीं है कि एल्गोरिदम का इस्तेमाल सिर्फ चरमपंथी गुटों द्वारा अपनी कट्टर सोच को बढ़ावा देने के लिए किया जाता है. चुनावों के दौरान एल्गोरिदम का उपयोग फर्जी ख़बरें फैलाने और लोगों के बीच दुष्प्रचार के लिए भी किया जाता है. इसके चलते कई बार तो अलग-अलग गुटों के बीच हिंसा भी भड़क जाती है और वोटों का ध्रुवीकरण हो जाता है. इस सभी उदाहरणों से स्पष्ट हो जाता है कि एल्गोरिदम से सोशल मीडिया उपयोगकर्ताओं को किस प्रकार सच्चाई से दूर रखा जाता है और उनके बीच गलत सूचना का जाल बुना जाता है, साथ ही ध्रुवीकरण और चरमपंथी नैरेटिव्स को बढ़ावा दिया जाता है. ज़ाहिर है कि फर्ज़ी ख़बरें, झूठी जानकारी और दुष्प्रचार आज के साइबर युद्ध और वैचारिक लड़ाई के बड़े हथियार बन चुके हैं और इस सबके पीछे यही एल्गोरिदम है. कट्टरपंथी समूहों द्वारा आमतौर पर ऐसी रणनीतियां अमल में लाई जाती हैं, जिनमें लोगों के बीच उकसाने वाली सामग्री पोस्ट की जाती है और एल्गोरिदम उनके इन मंसूबों को पूरा करने में मदद करता है. इतना ही नहीं, ये कट्टरपंथी समूह एल्गोरिदम “फिल्टर बबल” भी बनाते हैं और इसके ज़रिए एक हिसाब के सोशल मीडिया यूजर्स को एक सीमित दायरे में बांध दिया जाता है, यानी उन्हें सिर्फ़ वही कंटेंट देखने को मिलता है, जो उनकी विचारधारा के मुताबिक़ होता है. ज़ाहिर है कि ये सामग्री कहीं न कहीं उनकी चरमपंथी सोच को मज़बूत करने वाली होती है.
तकनीक़ी समाधानों और नीतिगत क़दमों के ज़रिए ख़तरे को कम करना
एल्गोरिदम में पारदर्शिता की कमी है, यानी इसका इतने बारीक़ तरीक़े से इस्तेमाल किया जाता है, जिससे कुछ पता ही चल पाता है कि आख़िर इसका मकसद क्या है, कौन इसके पीछे है. ऐसे में सोशल मीडिया में एल्गोरिदम की चुनौती का समाधान करने की ज़रूरत है, और जब बात कट्टरपंथी विचारधारा को बढ़ाने वाले एल्गोरिदम की हो, तो ऐसा करना बेहद ज़रूरी हो जाता है. एल्गोरिदम "ब्लैक बॉक्स" के रूप में काम करते हैं, जिसमें डेवलपर्स भी इस बात का पता नहीं लगा पाते हैं कि किसी विशेष कंटेंट को प्रमोट करने और उसे यूजर्स तक भेजने के पीछे क्या प्रक्रिया अपनाई जाती है. उदाहरण के तौर पर टिकटॉक के "फॉर यू" पेज को सनसनीखेज और कट्टरपंथी कंटेंट के लिए चिन्हित किया गया है, लेकिन इसको संचालित करने की प्रक्रिया इस प्रकार से बनाई गई है, जो एल्गोरिदमिक पूर्वाग्रह को दूर करने में रुकावट डालती है, या कहें उसे रोकती है. कट्टरपंथी और आतंकवादी ग्रुप इसी का फ़ायदा उठाते हैं और वे अपनी भड़काऊ सामिग्री को इस तरह से पोस्ट करते हैं कि उसके अंदर क्या है, इसका पता नहीं लगाया जा सकता है. इसके अलावा, एल्गोरिदम की प्रकृति वैश्विक होती है, यानी उसे वैश्विक संदर्भ में डिज़ाइन किया जाता है और स्थानीय सामाजिक-सांस्कृतिक वास्तविकताओं के साथ इनका कोई मेल नहीं होता है, इससे भी समस्या और विकट हो जाती है.
सोशल मीडिया पर अभिव्यक्ति की आज़ादी और प्रभावी कंटेंट मॉडरेशन यानी ऑनलाइन प्लेटफॉर्म्स पर पोस्ट किए जाने वाले कंटेंट की जांच-पड़ताल के बीच संतुलन स्थापित करना एक बेहद जटिल मसला है. हालांकि, इसके लिए कई देशों द्वारा नीतिगत क़दम उठाए गए हैं, जैसे कि जर्मनी में नेटज़ लॉ लाया गया है, जिसका मकसद ऑनलाइन प्लेटफॉर्म्स पर नफ़रत फैलाने वाले भाषणों पर अंकुश लगाना है. इसमें ऑनलाइन प्लेटफॉर्म को एक तय समय सीमा के भीतर नुक़सान पहूंचने वाले कंटेट को हटाने का भी प्रावधान किया गया है. लेकिन तू डाल-डाल मैं पात-पात की तर्ज़ पर चरमपंथी समूह ऐसे नीतिगत उपायों की भी खामियां निकाल लेते हैं और अपने भड़काऊ कंटेंट को कुछ इस तरह से तैयार करते हैं, जिससे उन पर कोई क़ानूनी अंकुश ना लग पाए. इस प्रकार से ऐसे चरमपंथी समूह बगैर किसी परेशानी के अपने भड़काऊ और समाज में विभाजन बढ़ाने वाली सामग्री का प्रचार-प्रसार करते रहते हैं.
हालांकि, अब एल्गोरिदम के ज़रिए कट्टरपंथी विचारधारा को प्रोत्साहित करने पर लगाम लगाने की कोशिशें की जा रही हैं. इसके लिए ऐसे भड़काऊ और उकसावे वाले कंटेंट पर नज़र रखने और उसे कम करने के लिए आर्टिफिशियल इंटेलिजेंस (AI) की मदद ली जा रही है. उदाहरण के तौर पर यूट्यूब ने मशीन-लर्निंग मॉडल 2023 को अपनाया है और आपत्तिजनक कंटेंट वाले चरमपंथी वीडियो के प्रसार को 30 प्रतिशत तक कम करने में क़ामयाबी हासिल की है. लेकिन आईएस एवं अल-क़ायदा जैसे आतंकी संगठनों ने इसका भी तोड़ निकाल लिया है और वे यूट्यूब पर ऐसे वीडियो पोस्ट करते समय इस तरह की कोडेड लैंग्वेज का इस्तेमाल करते हैं, जिससे निगरानी तंत्र की पकड़ में न आ सकें. वहीं इंस्टाग्राम में ऐसी आपत्तिजनक सामग्री का प्रसार रोकने के लिए काउंटर नैरेटिव रणनीतियों को अपनाया है और इसके तहत जब कोई उपयोगकर्ता कंटेट को सर्च करता है, तो उसे उसी तरह की सामग्री के विकल्प मिलते हैं, जो उकसावे वाली नहीं हों.
भारत में सरकारी स्तर पर भी ऑनलाइन सोशल मीडिया प्लेटफॉर्म्स पर ऐसी नुक़सानदायक सामग्री पर लगाम लगाने की कोशिशें की गई हैं. भारत सरकार के इलेक्ट्रॉनिक्स एवं सूचना प्रौद्योगिकी मंत्रालय (MeitY) की पहल ने हानिकारक और आपत्तिजनक कंटेंट पोस्ट करने वाले 9,845 से अधिक URL पर पाबंदी लगाई है.
भारत में सरकारी स्तर पर भी ऑनलाइन सोशल मीडिया प्लेटफॉर्म्स पर ऐसी नुक़सानदायक सामग्री पर लगाम लगाने की कोशिशें की गई हैं. भारत सरकार के इलेक्ट्रॉनिक्स एवं सूचना प्रौद्योगिकी मंत्रालय (MeitY) की पहल ने हानिकारक और आपत्तिजनक कंटेंट पोस्ट करने वाले 9,845 से अधिक URL पर पाबंदी लगाई है. भारत सरकार (GOI) आईटी अधिनियम 2021 के अंतर्गत सोशल मीडिया, डिजिटल न्यूज़ और ओवर-द-टॉप (OTT) प्लेटफॉर्म्स को नियंत्रित करती है. इस अधिनियम के तहत प्रावधान किया गया है कि अगर कोई विवादित कंटेंट पोस्ट करता है, तो उसे सबसे पहले पोस्ट करने वाले का पता लगाया जा सकता है, साथ ही 36 घंटों के भीतर ऐसे कंटेंट को हटाया जा सकता है. कहने का मतलब है कि सोशल मीडिया के ज़रिए हिंसा और कट्टरपंथी विचारों के प्रसार की चुनौती से प्रभावी तरीक़े से निपटने के लिए न केवल लगातार नई-नई टेक्नोलॉजी का उपयोग करना ज़रूरी है, बल्कि विभिन्न विभागों और संस्थाओं को आपसी तालमेल बनाकर काम करने की भी आवश्यकता है.
एल्गोरिदम के ज़रिए फैलाए जाने वाले कट्टरपंथ का समाधान
सोशल मीडिया पर एल्गोरिदम के ज़रिए कट्टरपंथी विचारधारों के प्रसार को रोकने के लिए कई क़दम उठाए गए हैं. एल्गोरिदम की पारदर्शिता सुनिश्चित करने और ऑनलाइन मंचों पर कट्टरपंथी कंटेंट के फैलाव पर निगरानी रखने और उस पर लगाम लगाने के लिए उपरोक्त उपायों के अलावा भी काफ़ी कुछ किया जा सकता है:
- एल्गोरिदम की पारदर्शिता और निष्पक्षता सुनिश्चित करना बेहद ज़रूरी है और इसके लिए सोशल मीडिया प्लेटफॉर्म के एल्गोरिदम की समय-समय पर जांच पड़ताल की जानी चाहिए. उदाहरण के तौर पर यूरोपियन यूनियन (EU) के डिजिटल सर्विस एक्ट 2023 में इसका प्रावधान किया गया है कि ऑनलाइन सोशल मीडिया ऐप्स को उनके एल्गोरिदम के काम करने के तौर-तरीक़ों के बारे में जानकारी देनी होगी. इसके अलावा, ज़रूरत पड़ने पर इन ऑनलाइन प्लेटफॉर्म्स को स्वतंत्र शोधकर्ताओं या विशेषज्ञों को यूजर्स पर इन एल्गोरिदम्स के असर की जांच की मंजूरी भी देनी होगी.
- सरकारों को एल्गोरिदम से जुड़ी जवाबदेही तय करने के लिए स्पष्ट नीतियां बनानी चाहिए. इसके साथ ही यह भी प्रावधान करना चाहिए कि अगर कोई ऑनलाइन सोशल मीडिया प्लेटफॉर्म आपत्तिजनक कंटेंट के प्रसार को रोकने में विफल रहता है, तो फिर दंडात्मक कार्रवाई की जाएगी. उदाहरण के लिए जर्मनी के नेट्ज़ क़ानून में प्रावधान किया गया है कि अगर सोशल मीडिया प्लेटफॉर्म द्वारा 24 घंटे के भीतर विवादित कंटेंट डिलीट नहीं किया जाता है, तो सोशल मीडिया कंपनियों पर जुर्माना लगेगा. जर्मनी के इस क़दम ने अन्य यूरोपीय देशों को भी इसी तरह के नीतिगत उपायों के लिए प्रेरित किया है.
- दरअसल, एल्गोरिदम की डिज़ाइन किसी विशेष मुद्दे या मकसद को हासिल करने के लिए की जाती है, ऐसे में इस पर निगरानी रखने के लिए भी एक अलग तरह के तंत्र को स्थापित करने की ज़रूरत होती है. जहां तक कट्टरपंथी विचारधारा को बढ़ाने वाले ऑनलाइन कंटेंट की बात है, तो अक्सर इस तरह की पोस्ट और वीडियो किसी ख़ास देश में सामाजिक-राजनीतिक उथल-पुथल से प्रेरित होते हैं. ऐसे में यह आवश्यक है कि जब भी एल्गोरिदम फ्रेमवर्क्स की निगरानी पर काम किया जाए, तो इस सच्चाई को भी ध्यान में रखा जाए और इसी के मुताबिक़ ऑनलाइन कट्टरपंथ रोधी नीतियां बनाई जाएं. उदाहरण के तौर पर फ्रांस में सोशल मीडिया सामग्री पर निगरानी रखने वाले नियामकों ने कई सोशल मीडिया कंपनियों के साथ हाथ मिलाया है और एक ऐसी व्यवस्था तैयार की है, जिसमें देश में बोली जाने वाली स्थानीय भाषाओं में प्रसारित किए जाने वाले कट्टरपंथी कंटेंट का पता लगाने और उस पर नज़र रखने का प्रावधान किया गया है. इसके लिए एल्गोरिदम का पता लगाने और उन्हें डिकोड करने की पुख्ता तैयारी की गई है.
निष्कर्ष
आज के डिजिटल युग में एल्गोरिदम के ज़रिए दुष्प्रचार और कट्टरपंथी विचारधारा को बढ़ावा देने वाले कंटेंट का सोशल मीडिया प्लेटफॉर्म्स पर प्रसार एक बड़ी चुनौती बनकर सामने आया है. ज़ाहिर है कि ऑनलाइन मंचों पर इस तरह की आपत्तिजनक सामग्री के प्रसार का न केवल सामाजिक समरसता पर गहरा प्रभाव पड़ता है, बल्कि यह देशों की राजनीतिक स्थिरता एवं लोगों की सुरक्षा पर भी असर डालता है. ऐसी गतिविधियों पर लगाम लगाने के लिए प्रौद्योगिकी, नवाचारों और नीतिगत उपायों के साथ ही व्यापक दृष्टिकोण अपनाए जाने की आवश्यकता है. वर्तमान में यूट्यूब, टिकटॉक और फेसबुक जैसे बड़े सोशल मीडिया प्लेटफॉर्म्स अपने एल्गोरिदम में बदलाव कर रहे हैं. बावज़ूद इसके एल्गोरिदम के दुरुपयोग से उपजे पारदर्शिता और सांस्कृतिक संवेदनशीलता जैसे मुद्दे क़ायम हैं. इसके अलावा, आज भी अभिव्यक्ति की आज़ादी और भड़काऊ कंटेंट की पहचान व उस पर लगाम जैसे मुद्दों के बीच संतुलन बनाए रखना एक बड़ी चुनौती बनी हुई है. इस दुविधा वाली स्थिति से निजात पाने के लिए सरकारों, तकनीक़ी कंपनियों, सिविल सोसाइटी और सोशल मीडिया यूजर्स के बीच तालमेल स्थापित कर इस दिशा में सामूहिक प्रयास किए जाने की जरूरत है. इतना ही नहीं, सरकार को भी अपने स्तर पर सोशल मीडिया मंचों एवं ऑनलाइन ऐप्स का इस्तेमाल करने वालों को जागरूक करने के लिए व्यापक अभियान चलाना चाहिए, ताकि वे दुष्प्रचार को पहचान सकें और कट्टरपंथी विचार बढ़ाने वाले कंटेंट के जाल में फंसने से बच सकें. जैसे कि यूके ने अपने ऑनलाइन सेफ्टी बिल में ऑनलाइन मीडिया साक्षरता में सुधार के लिए सार्वजनिक शिक्षा से जुड़ी पहलों का प्रावधान किया है.
कुल मिलाकर निष्कर्ष यह है कि अगर सरकारी और निजी हितधारक मिलकर प्रयास करते हैं, तो सोशल मीडिया मंचों पर एल्गोरिदम का उपयोग करके चरमपंथी विचारधारा के प्रसार से पैदा होने वाले ख़तरों कम किया जा सकता है.
कुल मिलाकर निष्कर्ष यह है कि अगर सरकारी और निजी हितधारक मिलकर प्रयास करते हैं, तो सोशल मीडिया मंचों पर एल्गोरिदम का उपयोग करके चरमपंथी विचारधारा के प्रसार से पैदा होने वाले ख़तरों कम किया जा सकता है.
सौम्या अवस्थी ऑब्ज़र्वर रिसर्च फाउंडेशन के सेंटर फॉर सिक्योरिटी, स्ट्रैटेजी एंड टेक्नोलॉजी में फेलो हैं.
The views expressed above belong to the author(s). ORF research and analyses now available on Telegram! Click here to access our curated content — blogs, longforms and interviews.
PREV
