सोशल मीडिया का एल्गोरिदम अब कट्टरता के पनपने और समाज में गलत सूचना को बढ़ावा देने का कारण बनता जा रहा है, एक ऐसा तेज़ी से बढ़ता राष्ट्रीय सुरक्षा ख़तरा जिसे नियंत्रित करने के लिए नियामक संस्थाए भी जूझ रही हैं.
Image Source: Pexels
एक में युग में जहां धारणा सत्ता को परिभाषित करने की क्षमता रखती है, सोशल मीडिया प्लेटफॉर्म ध्रुवीकरण और उग्रवाद के ख़तरनाक वाहक बन गए हैं. यह वही सोशल मीडिया है जिसको कभी लोकतंत्रीकरण के साधन के रूप में जाना जाता था. इस परिवर्तन के केंद्र में एक अनदेखा पहलू है जिसे एल्गोरिदम कहते हैं. यूरोप में डिजिटल जवाबदेही को फिर से परिभाषित करने वाले एक अभूतपूर्व कदम के तहत फ्रांसीसी प्रॉसिक्यूटर्स ने "संगठित एल्गोरिथमिक मैनीपुलेशन" और "फ्राउडलैंट डाटा एक्सट्रैक्शन" के आरोपों पर X (पहले जिसे ट्विटर के नाम से जाना जाता था) के ख़िलाफ़ एक औपचारिक आपराधिक जांच शुरू की है. जुलाई 2025 में शुरू की गई यह जांच अब जे3 साइबर क्राइम यूनिट और नेशनल जेंडरमेरी के नेतृत्व में चल रहा है. इस जांच के पीछे यह आरोप लगाया गया है कि प्लेटफार्म रेकमेंडेशन एल्गोरिदम में छेड़छाड़ कर के इस प्लेटफार्म के कंटेंट की विविधता को प्रतिबंधित करने और LGBT एवं नागरिकों के अपनी बात को रखने के मौलिक अधिकार और गोपनीयता के अधिकारों के ख़िलाफ़ काम किया. यह भी आरोप है कि नस्लवादी कंटेंट के साथ साथ विदेशी प्रोपेगैंडा को बल देना का काम भी संभावित रूप से रेकमेंडेशन एल्गोरिदम में छेड़छाड़ कर के इस प्लेटफार्म में किया गया.
फ्रांस जिस चुनौती का सामना कर रहा है वह वैश्विक है. एल्गोरिदम रेकमेंडेशन सिस्टम, जिसका इज़ात उपयोगकर्ता की भागीदारी बढ़ाने और कंटेंट कस्टमाइज़ करने के लिए किया गया था. लेकिन अब यह, अनजाने में भी हो सकता है, कट्टरता को पनपने में मदद करने वाला एक महत्वपूर्ण, साधन बन गया है. एल्गोरिदम अब केवल एक साधारण उपकरण नहीं बल्कि एक ख़तरनाक साधन की शक्ल ले चुका है क्योंकि स्टेट और नॉन-स्टेट एक्टर्स अब डिजिटल स्पेस का इस्तेमाल एक हथियार तरह कर रहें है.
ये सोशल मीडिया साइट अब राजनीतिक विमर्श, सामाजिक सामंजस्य और यहां तक कि एक राष्ट्र की सुरक्षा को भी प्रभावित कर रही हैं. इन बातों के मद्देनज़र सोशल मीडिया के एल्गोरिदम को नियंत्रित करने या फिर से उसे नए सिरे से डिजाइन करने की आवश्यकता अब सबसे ज़रूरी हो गई है.
डाटारिपोर्टल की ग्लोबल डिजिटल इनसाइट्स के अनुसार, अप्रैल 2025 तक, दुनिया भर में लगभग 5.31 बिलियन लोग नियमित रूप से फेसबुक, टेलीग्राम, इंस्टाग्राम और X जैसी सोशल मीडिया साइटों का उपयोग करेंगे. ये सोशल मीडिया साइट अब राजनीतिक विमर्श, सामाजिक सामंजस्य और यहां तक कि एक राष्ट्र की सुरक्षा को भी प्रभावित कर रही हैं. इन बातों के मद्देनज़र सोशल मीडिया के एल्गोरिदम को नियंत्रित करने या फिर से उसे नए सिरे से डिजाइन करने की आवश्यकता अब सबसे ज़रूरी हो गई है.
एल्गोरिदम मूलतः गणितीय फंक्शन है जो सोशल मीडिया के उपयोगकर्ता के व्यवहार के आधार पर सामग्री को क्यूरेट करने के लिए प्रोग्राम किए गए हैं. वे इस बात को भांपते हैं कि लोग क्या क्लिक करते हैं, देखते हैं, पसंद करते हैं और साझा करते हैं और फिर उसी कंटेंट को अपने प्लेटफार्म को अधिक मात्रा में डिलीवर करने का काम करते हैं. इस प्रक्रिया को 'रएंफोर्रसमेंट लर्निंग’ के रूप में जाना जाता है. हालांकि यह एक हानिरहित और काफ़ी कुशल प्रक्रिया नज़र आती है लेकिन वास्तव में एल्गोरिदम हिंसक और अहिंसक रेडिकल प्रचार के बीच अंतर नहीं करता और यह उपयोगकर्ता के सज्ञान के लिए अनुकूलित कर प्रेषित कर देता है.
स्टैनफोर्ड इंटरनेट ऑब्जर्वेटरी के शोध ने लगातार पाया है कि जब कोई उपयोगकर्ता विवादास्पद, उत्तेजक या षड्यंत्रकारी सामग्री के साथ सोशल मीडिया का इस्तेमाल करता है तो उस कट्टरपंथी सामग्री की ओर अन्य उपयोगकर्ताओं के आकर्षित होने की अधिक संभावना होती है. यह प्रक्रिया एल्गोरिदम के आर्किटेक्चर का हिस्सा है जिसके आधार पर एल्गोरिथमिक लॉजिक कार्य करता है.
उग्रवाद इंगेजमेंट के कारण पनपता है और एल्गोरिदम इस तरह बनाए गए हैं कि इंगेजमेंट को सबसे ज़्यादा तरजीह दी जाए. यह विशेषता 'रेडिकलाइजेशन स्पाइरल’ का निर्माण करता है जो कि एक फीडबैक लूप है जिसमे उपयोगकर्ता को धीरे-धीरे जिज्ञासा से पुष्टि की ओर और फिर उसके बाद एक्सट्रीम साइड की ओर धकेलने का काम होता है.
कट्टरपंथ के पारंपरिक मॉडल विकसित हुए हैं जिनमें भौतिक सेफ हेवेन्स, भर्ती करने वालों के साथ व्यक्तिगत संपर्क या बंद दरवाजे में दिए जाने वाले उपदेश शामिल हैं. लेकिन आज, प्रारंभिक पहचान और वैचारिक तौर पर संवारने की प्रक्रिया को अक्सर ऑनलाइन ही किया जा सकता है. यह काम एल्गोरिदम के चलते अब सुगम हो चुकी है. वैचारिक संपर्क के लिए पहला संपर्क सूत्र मुख्य रूप से एक रेकमेंडेड पोस्ट, एक ट्रेंडिंग वीडियो या एक वायरल मीम माध्यम बन सकता है.
चरमपंथी एक्टर्स अत्यधिक अडाप्टिव होने के साथ साथ एल्गोरिदम को भली भांति समझते हैं. वे भावनात्मक कीवर्ड्स, ट्रेंडिंग हैशटैग, मैनिपुलेटेड इमेजेस और रियल टाइम की गलत जानकारी का उपयोग करना जानते हैं. सोशल मीडिया प्लेटफॉर्म केवल जनमत को बाधित ही नहीं करते बल्कि उसे आकार देने का काम कर रहे हैं. जब ये चरमपंथी समूह यानी एक्सट्रेमिस्ट ग्रुप्स जनमत को आकार देने की प्रक्रिया को नियंत्रित करते हैं, तो ये समाज को व्यापक हेरफेर की ओर धकेल देते हैं जिसे कॉग्निटिव मैनीपुलेशन कहा जाता है.
राष्ट्रीय सुरक्षा के लिए इन सब बातों के गहरे और बहुआयामी मायने हैं. सोशल मीडिया अक्सर सांप्रदायिक हिंसा, धार्मिक ध्रुवीकरण का कारण बना है और घरेलू स्तर पर डिजिटल इको चैम्बर्स के माध्यम से लोकतांत्रिक संस्थाओं के बारे में अविश्वास पैदा हुआ है जिससे किसी देश की आंतरिक सुरक्षा को ख़तरा होना संभव है. उदाहरण के लिए, 2020 में नागरिकता संशोधन अधिनियम-राष्ट्रीय नागरिक रजिस्टर (CAA - NRC) को लेकर दिल्ली में दंगे हुए. ये घटनाएं विविधता वाले समाज की एकता को कमज़ोर करती हैं और विशेष रूप से उन देशों में जिनका लोकतंत्र अभी भी शैशवकाल में है और मल्टी-एथनिक है.
हाल के समय में, आतंकवादी समूहों ने अपने प्रचार को तेज करने, अनुयायियों की भर्ती करने और सीमा पार कट्टरपंथ को भड़काने के लिए सोशल मीडिया एल्गोरिदम का रणनीतिक रूप से दुरुपयोग किया है. यह बात कश्मीर और पंजाब सहित कई क्षेत्रों में स्पष्ट रूप से नज़र आती है जहां ऑनलाइन प्लेटफार्म चरमपंथी लोगो का गड बन गया है. कश्मीर में, कश्मीर टाइगर्स या रेजिस्टेंस फ्रंट (TRF) जैसे समूह जो एक पाकिस्तान प्रायोजित प्रॉक्सी समूह है उसने डिजिटल युग के इन संचार के तरीकों को कुशलता से इस्तेमाल किया है. उन्होंने उच्च गुणवत्ता वाली दृश्य सामग्री का उत्पादन किया है, हैशटैग का उपयोग किया है, और वह एक नैरेटिव वॉर में जुटे हैं जो व्यापक फ़ैलाव को सुनिश्चित करने के लिए एल्गोरिथमिक रुझानों के साथ कार्य करते हैं. ये सघठन उग्रवाद को प्रतिरोध के रूप में प्रस्तुत करके, युवाओं को कट्टरपंथी बनाने में सफ़ल रहे हैं. इसी तरह, खालिस्तान आंदोलन के भीतर के तत्वों ने पंजाब में अलगाववादी भावनाओं को पुनर्जीवित करने के लिए सोशल मीडिया को हथियार बना लिया है, विशेष रूप से कनाडा, यूनाइटेड किंगडम (UK) और ऑस्ट्रेलिया में सिख प्रवासी वर्गों के बीच में. उनके अभियान अक्सर भावनात्मक रूप की सामग्री, ऐतिहासिक शिकायतों और गलत सूचना पर निर्भर होते हैं, जो उपयोगकर्ता फ़ीड में अधिक प्रमुखता से दिखाई देने के लिए एल्गोरिदम का इस्तेमाल करते हैं. एल्गोरिदम के कारण इन फ्रिंज एलिमेंट्स को वायरल होने का अवसर मिलता है जिससे ऑर्गेनिक डिस्टेंस यानी संगठित असहमति और राज्य प्रायोजित डिजिटल सबवर्सन के बीच की दूरी भी लगभग मिट गई है.
एल्गोरिदम के रेगुलेशन में परस्पर जुड़ी कई चुनौतियों का सामना करना पड़ता है. सबसे अधिक मुश्किल चुनौती पारदर्शिता की कमी है, क्योंकि एल्गोरिदम अक्सर 'ब्लैक बॉक्स' के रूप में काम करते हैं, जिससे डेवलपर्स के लिए भी अपने परिणामों की व्याख्या करना मुश्किल हो जाता है. कॉर्पोरेट सीक्रेसी ऑडिट और जवाबदेही को और बाधित करती है.
एल्गोरिदम आमतौर पर ऐतिहासिक डेटा में अंतर्निहित मौजूदा सामाजिक पूर्वाग्रहों को विरासत में प्राप्त करते हैं और आगे बढ़ाते हैं जिसके परिणामस्वरूप रोज़गार, न्याय, साख और सामग्री क्यूरेशन सहित विभिन्न क्षेत्रों में अनुचित परिणाम देखने को मिलते हैं.
अंतरराष्ट्रीय क्षेत्राधिकार में गैप एक गंभीर विषय है क्योंकि वैश्विक प्रौद्योगिकी फर्म सीमाओं के पार काम करती है, जबकि कानूनी ढांचे राष्ट्रीय प्रणालियों में निहित रहते हैं, जिससे प्रवर्तन में ख़ामियां लाजमी है विशेष रूप से ग्लोबल साउथ के विकासशील देशों के लिए. राष्ट्रीय कानून न के बराबर एल्गोरिदम निर्णय लेने की प्रक्रिया को सीधे संबोधित करते हैं. ‘बायस विदाउट इंटेंट’ को साबित करने के लिए IT कानून अस्पष्ट परिभाषाएं प्रदान करते हैं, जिससे इस कार्य को दंडित करना मुश्किल हो जाता है. इसके साथ-साथ विकासशील राज्यों में मौजूद सीमित तकनीकी क्षमता इस प्रक्रिया को और जटिल बनाती है जो नियंत्रकों और कानून प्रवर्तन एजेंसियों में अक्सर एल्गोरिथ्म-संचालित कट्टरता या भेदभाव का मुकाबला करने के लिए प्रशिक्षित कर्मियों और फोरेंसिक उपकरणों की कमी से स्पष्ट है. इसके अलावा, एल्गोरिदम आमतौर पर ऐतिहासिक डेटा में अंतर्निहित मौजूदा सामाजिक पूर्वाग्रहों को विरासत में प्राप्त करते हैं और आगे बढ़ाते हैं जिसके परिणामस्वरूप रोज़गार, न्याय, साख और सामग्री क्यूरेशन सहित विभिन्न क्षेत्रों में अनुचित परिणाम देखने को मिलते हैं. इन नुकसानों को रेगुलेट करने के प्रयास अक्सर गोपनीयता, स्वतंत्र अभिव्यक्ति और बौद्धिक संपदा सहित अन्य अधिकारों के साथ टकराते हैं, जिससे इसका इस्तेमाल जटिल हो जाता है. इस बीच, सार्वजनिक समझ की स्थिति बहुत ही दयनीय बनी हुई है. अधिकांश उपयोगकर्ता इस बात से अनजान हैं कि एल्गोरिदम उनकी धारणाओं को कैसे आकार देते हैं और उन्हें इस बात का भी नहीं पता है कि भेदभावपूर्ण कंटेंट की चुनौती का किस तरह सामना करना है.
इसलिए, एल्गोरिदम हेरफेर और ऑनलाइन कट्टरपंथ के बढ़ते जोख़िमों को दूर करने के लिए एक सर्व-समावेशी वैश्विक रणनीति आवश्यक है. संयुक्त राष्ट्र (UN) या आर्थिक सहयोग और विकास संगठन अर्थात ऑर्गेनाइजेशन फॉर इकोनॉमिक कोऑपरेशन एंड डेवलपमेंट (OECD) के तत्वावधान में एक वैश्विक एल्गोरिदम पारदर्शिता ढांचे को एल्गोरिदम डिजाइन और थ्रेट ऑडिट के प्रकटीकरण के बनाना अनिवार्य है, विशेष रूप से बहुत बड़े ऑनलाइन प्लेटफॉर्म (VLOP) के एल्गोरिदम डिजाइन और थ्रेट ऑडिट के लिए. इसके साथ-साथ एक डिजिटल थ्रेट इंटेलिजेंस शेयरिंग तंत्र जो कि इंटरपोल की तर्ज़ पर हो और साझा डेटा और जो आर्टिफिशियल इंटेलिजेंस (AI) उपकरणों का उपयोग करके चरमपंथी सामग्री पर रियलटाइम में पता लगाने और सीमा पार अलर्ट देने की प्रक्रिया को सक्षम बनाने में मदद कर सके. कानूनी प्रावधानों को भी विकसित किया जाना चाहिए, और नफरत या कट्टरपंथी विचारधाराओं को बढ़ाने के लिए एल्गोरिदम में हेरफेर करने को विश्व स्तर पर अपराध घोषित किया जाना चाहिए, जिससे सोशल मीडिया प्लेटफार्म और अधिकारी दोनों कानूनी रूप से उत्तरदायी बन सकें. प्रवर्तन मानकों को संरेखित करने के लिए फरवरी 2025 में फ्रांस AI एक्शन समिट द्वारा निर्धारित मिसाल अहम है. ऐसे ही क्रॉस बॉर्डर हॉर्मोनाइज़ेशन ऑफ़ AI लॉज़ के माध्यम से AI कानूनों का सीमा पार सामंजस्य बनाना महत्वपूर्ण है. राष्ट्रीय स्तर पर, डिजिटल थ्रेट सेंटर की स्थापना की जानी चाहिए, जो कट्टरता के रास्तों का पता लगाने और उन्हें बाधित करने के लिए प्रौद्योगिकी, बिहेवियर साइंस और इंटेलिजेंस को एक साथ लेकर आएगी. एल्गोरिदमिक नुकसान का नियमित रूप से आकलन करने के लिए स्वतंत्र ऑडिट को अनिवार्य करने के मॉडल को आगे बढ़ाना चाहिए जैसे कि यूरोपीय संघ का डिजिटल सेवा अधिनियम (2023) जो प्लेटफॉर्म एल्गोरिदम की थर्ड पार्टी जांच की अनुमति देता है.
सबसे ज़रूरी यह है कि एल्गोरिथमिक बर्ताव के कारण हो रहे नुकसान को न केवल तकनीकी गड़बड़ियों या कॉर्पोरेट ओवरसाइट के रूप में माना जाना चाहिए बल्कि सुरक्षा, नागरिक अधिकारों और सार्वजनिक विश्वास के मुद्दों के रूप में भी इसे समझना होगा.
इसके अलावा, आतंकवादियों या हेट ग्रुप्स द्वारा सोशल मीडिया के दुरुपयोग का अनुमान लगाने के लिए एल्गोरिदम के रेड-टीमिंग और स्ट्रेस टेस्टिंग में निवेश की आवश्यकता है. विशेष रूप से चुनाव या सांप्रदायिक अशांति वाले अस्थिर दौर में ख़तरों का जवाब देने के लिए स्वचालित उपकरणों और प्रशिक्षित विश्लेषकों से लैस एक रियलटाइम इंफ्रास्ट्रक्चर अवसंरचना की ज़रूरत पड़ेगी जो इस कार्य में मदद करेगी. अंततः एल्गोरिदम के हेरफेर को पहचानने और विरोध करने के लिए डिजिटल साक्षरता अभियान महत्वपूर्ण है जो समुदायों, विशेष रूप से युवाओं को शिक्षित करेगा और समाज में सोशल रेसिलिएंस को बनाने में मदद करेगा.
एल्गोरिदम की प्रणालियों का रेगुलेशन विशेष रूप से कट्टरता, भेदभाव और भू-राजनीतिक संघर्ष के संदर्भ में, अब मात्र एक भविष्य की समस्या नहीं है. यह वर्तमान समय का एक शासकीय संकट है, विशेष रूप से विकासशील लोकतंत्रों के लिए. प्रोप्राइटरी एल्गोरिदम की जटिलता, उसके अधिकार क्षेत्र की अस्पष्टता और संसाधन की सीमाओं ने एक रेगुलेटरी ब्लाइंड स्पॉट बना दिया है जिसका पूरा इस्तेमाल चरमपंथी नेटवर्क और वे देश उठा रहे हैं जो आंतकवाद को बढ़ावा देते हैं.
प्रभावी रेगुलेशन के लिए एक बहुस्तरीय दृष्टिकोण की आवश्यकता होगी. इस समस्या से लड़ने के लिए, मानक-निर्धारण के लिए वैश्विक सहयोग, घरेलू कमियों को दूर करने के लिए राष्ट्रीय कानूनी में सुधार ज़रूरी है और रियलटाइम में नुकसान का पता लगाने और उसका मुकाबला करने के लिए स्थानीय कैपेसिटी बिल्डिंग की ज़रूरत है. सबसे ज़रूरी यह है कि एल्गोरिथमिक बर्ताव के कारण हो रहे नुकसान को न केवल तकनीकी गड़बड़ियों या कॉर्पोरेट ओवरसाइट के रूप में माना जाना चाहिए बल्कि सुरक्षा, नागरिक अधिकारों और सार्वजनिक विश्वास के मुद्दों के रूप में भी इसे समझना होगा. नीति निर्माताओं, तकनीकी कंपनियों, नागरिक समाज और शिक्षाविदों को एल्गोरिदम के द्वारा सुरक्षित और निष्पक्ष डिजिटल भविष्य बनाने के लिए सहयोग करना होगा.
सौम्या अवस्थी ऑब्जर्वर रिसर्च फाउंडेशन में सुरक्षा, रणनीति और प्रौद्योगिकी सेंटर की फेलो हैं.
The views expressed above belong to the author(s). ORF research and analyses now available on Telegram! Click here to access our curated content — blogs, longforms and interviews.
Dr Soumya Awasthi is a Fellow, Centre for Security, Strategy and Technology at the Observer Research Foundation. Her work focuses on the intersection of technology and ...
Read More +
PREV
