सोशल मीडियावरील अल्गोरिदम आता अतिरेकी विचारसरणी आणि खोटी माहिती (Disinformation) पसरवण्यासाठी कारणीभूत ठरत आहेत -ज्यामुळे राष्ट्रीय सुरक्षेला वाढता धोका निर्माण झाला आहे आणि त्यावर नियंत्रण आणण्यासाठी नियामक (Regulators) धडपड करत आहेत.
Image Source: Pexels
आजच्या काळात जिथे धारणा (Perception) सत्ता ठरवू शकते, तिथे कधी लोकशाहीसाठी उपयुक्त मानली जाणारी सोशल मीडिया साधने आता फूट पाडणारी आणि अतिरेकी विचार वाढवणारी धोकादायक माध्यमे ठरली आहेत. या बदलाच्या मध्यभागी एक दुर्लक्षित घटक आहे: अल्गोरिदम. युरोपमध्ये डिजिटल जबाबदारीचे (Digital Accountability) नवीन परिभाषण करू शकणारी एक अभूतपूर्व घटना म्हणजे फ्रान्सने X (पूर्वीचे Twitter) विरोधात औपचारिक गुन्हेगारी तपास सुरू केला आहे. “संघटित अल्गोरिदमिक छेडछाड” आणि “बनावट डेटा चोरी” याच्या आरोपांवर जुलै 2025 मध्ये हा तपास सुरू झाला. J3 सायबरक्राईम युनिट आणि नॅशनल जेंडारमेरीच्या नेतृत्वाखालील या चौकशीत असा आरोप आहे की शिफारस करणाऱ्या अल्गोरिदममध्ये बदल करून विविधतेवर बंधने आणली गेली आणि परदेशी प्रचार (Foreign Propaganda) व अनेक वांशिक, LGBT विरोधी तसेच भाषण आणि गोपनीयतेच्या हक्कांविरुद्धची सामग्री मुद्दाम वाढवली गेली.
जेव्हा राज्य आणि गैर-राज्य घटक डिजिटल जगाला शस्त्र म्हणून वापरतात, तेव्हा अल्गोरिदम हे फक्त साधन राहत नाही तर तो स्वतःच एक धोका बनतो.
फ्रान्ससमोरचे आव्हान हे सार्वत्रिक आहे; सुरुवातीला वैयक्तिक आवडीनुसार सामग्री दाखवणे आणि वापरकर्त्यांचा सहभाग (User Engagement) वाढवणे हे उद्दिष्ट असलेले शिफारस प्रणाली आता नकळत अतिरेकी विचारसरणीला प्रोत्साहन देणारे मोठे घटक ठरले आहेत. अल्गोरिदम आता फक्त साधन नाही, ते धोका निर्माण करणारे क्षेत्र आहे.
DataReportal च्या Global Digital Insights नुसार एप्रिल 2025 पर्यंत जगभरातील अंदाजे 5.31 अब्ज लोक दररोज Facebook, Telegram, Instagram आणि X (पूर्वीचे Twitter) सारख्या सोशल मीडिया प्लॅटफॉर्मचा वापर करतील. हे प्लॅटफॉर्म आता राजकीय संवाद, सामाजिक एकता आणि राष्ट्रीय सुरक्षा यांना आकार देत आहेत. त्यामुळे या अल्गोरिदमचे नियमन करणे किंवा त्यांचा नवा आराखडा तयार करणे हे पूर्वीपेक्षा अधिक तातडीचे झाले आहे.
अल्गोरिदम म्हणजे गणिती प्रक्रिया जी वापरकर्त्यांच्या वर्तनावर आधारित सामग्री (कंटेन्ट) निवडून दाखवते. लोक काय क्लिक करतात, काय पाहतात, काय पसंत करतात आणि काय शेअर करतात याचे निरीक्षण करून त्याच प्रकारची आणखी सामग्री समोर आणली जाते. याला ‘Reinforcement Learning’ म्हणतात. वरकरणी हे निरुपद्रवी आणि कार्यक्षम दिसत असले तरी प्रत्यक्षात हा अल्गोरिदम हिंसक आणि अहिंसक अतिरेकी सामग्रीमध्ये (कंटेन्ट) फरक करत नाही; तो फक्त लक्ष वेधून घेण्यावर (Attention) लक्ष केंद्रित करतो.
अतिरेकी विचारसरणी सहभागावर जगते आणि अल्गोरिदम सहभागालाच सर्वाधिक महत्त्व देतो. ह्यामुळे तयार होतो ‘Radicalisation Spiral’ म्हणजेच असा चक्रव्यूह जिथे वापरकर्ता हळूहळू उत्सुकतेतून खात्रीकडे आणि मग अतिरेकी विचारांकडे ढकलला जातो.
Stanford Internet Observatory च्या संशोधनाने वारंवार दाखवून दिले आहे की वापरकर्त्यांनी विवादास्पद, उत्तेजक किंवा कट-कारस्थानाशी संबंधित सामग्रीशी संवाद साधल्यावर ते अधिक अतिरेकी विचारांच्या दिशेने खेचले जातात. हे सर्व अल्गोरिदमिक प्रक्रियेच्या कार्यपद्धतीचा संरचनात्मक भाग आहे.
अतिरेकी विचारसरणी सहभागावर जगते आणि अल्गोरिदम सहभागालाच सर्वोच्च मानतो. त्यामुळे हा ‘Radicalisation Spiral’ सतत वाढत राहतो.
पूर्वी अतिरेकी विचार पसरवण्यासाठी गुप्त ठिकाणे, भरती करणाऱ्यांशी थेट संपर्क किंवा बंदिस्त शिकवणुकीचा वापर होत असे. पण आज हे मॉडेल बदलले आहे. आता प्राथमिक ओळख आणि विचारसरणीचे संस्कार ऑनलाईन (Online) होतात आणि ते अल्गोरिदममुळे शक्य झाले आहे. पहिला विचारसरणीचा संपर्क अनेकदा शिफारस केलेल्या पोस्ट, एखाद्या ट्रेंडिंग व्हिडिओ किंवा व्हायरल मीममधूनच होतो.
अतिरेकी घटक अतिशय चतुर आहेत आणि त्यांना अल्गोरिदमची पूर्ण जाण आहे. ते भावनिक शब्द, ट्रेंडिंग हॅशटॅग, बनावट छायाचित्रे आणि रिअल-टाईम खोटी माहिती वापरून शिफारस प्रणालीचा फायदा घेतात. सोशल मीडिया प्लॅटफॉर्म हे फक्त सार्वजनिक मत प्रतिबिंबित करत नाहीत तर ते स्वतःच ते घडवतात. जेव्हा अतिरेकी गट हा आकार देण्याचा ताबा घेतात, तेव्हा तो मोठ्या प्रमाणात विचारांचे नियंत्रण (Cognitive Manipulation) आणि दिशाभूल घडवतो.
राष्ट्रीय सुरक्षेसाठी या गोष्टींचे परिणाम गंभीर आणि अनेक प्रकारचे आहेत. यामुळे अनेकदा सांप्रदायिक हिंसा, धार्मिक ध्रुवीकरण (Polarisation) आणि लोकशाही संस्थांवर अविश्वास निर्माण झाला आहे, कारण घरगुती पातळीवर डिजिटल इको चेंबर्स (Digital Echo Chambers) तयार झाले आहेत, ज्यामुळे देशाची अंतर्गत सुरक्षा धोक्यात आली आहे. उदाहरण म्हणजे 2020 मधील दिल्ली दंगे, जे नागरिकत्व दुरुस्ती कायदा–राष्ट्रीय नागरिक नोंदणी (CAA-NRC) याभोवती झाले. अशा घटना बहुविध समाजांची एकता कमकुवत करतात, विशेषतः नाजूक लोकशाही आणि बहु-जातीय राष्ट्रांमध्ये.
दहशतवादी गटांनी सोशल मीडिया अल्गोरिदमचा (Social Media Algorithms) धोरणात्मक वापर करून आपला प्रचार वाढवला, समर्थक भरती केले आणि सीमापार अतिरेकी विचारसरणीला उकसवले आहे. हा प्रकार काश्मीर आणि पंजाबसारख्या भागांत स्पष्टपणे दिसतो, जिथे ऑनलाईन प्लॅटफॉर्म अतिरेकी कथांचा केंद्रबिंदू झाले आहेत. काश्मीरमध्ये काश्मीर टायगर्स किंवा रेसिस्टन्स फ्रंट (TRF) हा पाकिस्तान समर्थित गट -यांनी डिजिटल युगासाठी आपली संवादपद्धती हुशारीने बदलली. त्यांनी उच्च दर्जाचे व्हिडिओ तयार केले, हॅशटॅग वापरले आणि अल्गोरिदमच्या ट्रेंडशी जुळणाऱ्या पद्धतीने भाष्य केले, ज्यामुळे त्यांची सामग्री अधिकाधिक लोकांपर्यंत पोहोचली. दहशतवादाला “प्रतिरोध” म्हणून दाखवून त्यांनी अनेक तरुणांना अतिरेकी बनवले. त्याचप्रमाणे, खलिस्तान चळवळीतील घटकांनी सोशल मीडिया शस्त्रासारखा वापरून पंजाबमध्ये वेगळेपणाच्या भावना पुन्हा जागृत केल्या, विशेषतः कॅनडा, युनायटेड किंग्डम (UK) आणि ऑस्ट्रेलिया येथील शीख समाजात. त्यांच्या प्रचार मोहिमा भावनिक सामग्री, ऐतिहासिक तक्रारी आणि खोटी माहिती यावर आधारित असतात, ज्यांना अल्गोरिदममुळे (Algorithmic Boost) वापरकर्त्यांच्या फीडमध्ये प्रमुख ठिकाणी दाखवले जाते. या अल्गोरिदमिक प्रभावामुळे या सीमांत विचारांना मोठा वेग मिळाला आहे, ज्यामुळे नैसर्गिक विरोध आणि राज्यप्रेरित डिजिटल षडयंत्र यातला फरक अस्पष्ट झाला आहे.
अल्गोरिदमचे नियमन करताना अनेक परस्पर जोडलेली आव्हाने आहेत. सर्वात मोठे आव्हान म्हणजे पारदर्शकतेचा अभाव, कारण अल्गोरिदम अनेकदा ‘ब्लॅक बॉक्स’ (Black Box) सारखे काम करतात, ज्यामुळे त्यांच्या परिणामांचे स्पष्टीकरण करणे विकसकांनाही कठीण जाते. त्यातच कंपन्यांची गोपनीयता तपासणी व जबाबदारी थोपवते.
सोशल मीडिया प्लॅटफॉर्म फक्त लोकांचे मत प्रतिबिंबित करत नाहीत; ते स्वतः ते घडवतात. जेव्हा अतिरेकी गट हा घडवण्याचा ताबा घेतात, तेव्हा ते मोठ्या प्रमाणात विचारांचे नियंत्रण करतात.
आंतरराष्ट्रीय कायद्यांतील उणीवा कायम राहतात, कारण जागतिक तंत्रज्ञान कंपन्या सीमापार काम करतात, तर कायदेशीर आराखडे राष्ट्रीय पातळीवर मर्यादित असतात. यामुळे विशेषतः ग्लोबल साउथ (Global South) देशांमध्ये अंमलबजावणीतील पळवाट निर्माण होते. राष्ट्रीय कायदे क्वचितच थेट अल्गोरिदमशी निगडित निर्णयांना संबोधित करतात; भेदभावविरोधी कायदे आणि आयटी कायदे अस्पष्ट व्याख्या करतात, ज्यामुळे हेतुपुरस्सर नसलेला पक्षपात सिद्ध करणे किंवा शिक्षा करणे कठीण जाते. यासोबतच विकसनशील देशांमध्ये तांत्रिक क्षमतांचा अभाव असतो, जिथे नियंत्रक किंवा कायदा अंमलबजावणी करणाऱ्या यंत्रणांकडे प्रशिक्षित कर्मचारी व साधने नसतात. यामुळे अल्गोरिदमवर आधारित अतिरेकी विचार किंवा भेदभावावर नियंत्रण ठेवणे अवघड जाते. याशिवाय, अल्गोरिदम अनेकदा ऐतिहासिक डेटामधील सामाजिक पक्षपात वाढवतात, ज्यामुळे नोकरी, न्याय, कर्ज आणि सामग्री निवडीसारख्या क्षेत्रांत अन्यायकारक परिणाम घडतात. अशा हानिकारक गोष्टी रोखण्यासाठी केलेले प्रयत्न अनेकदा इतर हक्कांशी- गोपनीयता, अभिव्यक्ती स्वातंत्र्य आणि बौद्धिक संपदा यांच्याशी संघर्ष करतात, ज्यामुळे प्रशासन अधिक गुंतागुंतीचे बनते. दरम्यान, लोकांची समज मर्यादित राहते, कारण बहुतेक वापरकर्त्यांना अल्गोरिदम त्यांच्या विचारांना कसे आकार देतात किंवा भेदभावपूर्ण परिणामांना कसे आव्हान द्यायचे हे माहीत नसते.
म्हणूनच, अल्गोरिदमिक छेडछाड आणि ऑनलाईन अतिरेकी विचारसरणी यांचे धोके कमी करण्यासाठी सर्वसमावेशक जागतिक धोरण गरजेचे आहे. संयुक्त राष्ट्रे (UN) किंवा आर्थिक सहकार आणि विकास संघटना (OECD) यांच्या मार्गदर्शनाखाली जागतिक अल्गोरिदमिक पारदर्शकता चौकट (Global Algorithmic Transparency Framework) तयार करून मोठ्या ऑनलाइन प्लॅटफॉर्मना (VLOPs) त्यांच्या अल्गोरिदमची रचना आणि जोखीम तपासणी सार्वजनिक करण्यास भाग पाडावे. यासोबतच, इंटरपोलच्या धर्तीवर डिजिटल थ्रेट इंटेलिजन्स शेअरिंग (Digital Threat Intelligence Sharing) यंत्रणा उभारावी, ज्यामुळे कृत्रिम बुद्धिमत्ता (AI) साधनांचा वापर करून अतिरेकी सामग्रीवर तत्काळ शोध व सीमापार इशारे देता येतील. कायदेशीर तरतुदींचाही विकास व्हावा आणि अल्गोरिदममध्ये छेडछाड करून द्वेष किंवा अतिरेकी विचार पसरवणे हा गुन्हा ठरवावा, ज्यामुळे प्लॅटफॉर्म आणि त्यांचे अधिकारी जबाबदार राहतील. त्याचबरोबर, कृत्रिम बुद्धिमत्ता कायद्यांचे सीमापार समन्वय (Cross-Border Harmonisation) करणेही आवश्यक आहे, जसे की फ्रान्स AI Action Summit (फेब्रुवारी 2025) ने दाखवले. राष्ट्रीय पातळीवर, डिजिटल थ्रेट सेंटर्स स्थापन करून तंत्रज्ञान, वर्तनशास्त्र आणि गुप्तचर क्षेत्रातील तज्ज्ञांना एकत्र आणून अतिरेकी मार्ग रोखले पाहिजेत. स्वतंत्र तपासण्या नियमितपणे अनिवार्य केल्या पाहिजेत, जसे की युरोपियन युनियनच्या डिजिटल सर्व्हिसेस ॲक्ट (2023) अंतर्गत आहे, ज्यामुळे तृतीय-पक्ष प्लॅटफॉर्म अल्गोरिदमची तपासणी करू शकतात.
याशिवाय, रेड-टीमिंग (Red-Teaming) आणि स्ट्रेस टेस्टिंग (Stress Testing) मध्ये गुंतवणूक करणे आवश्यक आहे, जेणेकरून दहशतवादी किंवा द्वेष पसरवणाऱ्या गटांचा गैरवापर आधीच ओळखता येईल. यासोबत, वास्तविक-वेळेचे निरीक्षण केंद्र (Real-Time Monitoring Infrastructure) उभारून त्यात स्वयंचलित साधने आणि प्रशिक्षित विश्लेषक असावेत, जे निवडणुका किंवा सांप्रदायिक तणावासारख्या अस्थिर काळात त्वरेने प्रतिसाद देतील. शेवटी, जनतेमध्ये डिजिटल साक्षरता मोहिमा (Public Digital Literacy Campaigns) राबवणे अत्यावश्यक आहे, जेणेकरून समाजातील लोक, विशेषतः तरुण, अल्गोरिदमिक फसवणूक ओळखून तिचा प्रतिकार करू शकतील.
अल्गोरिदमिक प्रणालींचे नियमन, विशेषतः अतिरेकी विचारसरणी, भेदभाव आणि भूराजकीय संघर्ष यांच्या संदर्भात, हा भविष्यातील प्रश्न नाही. हे आजचेचं शासकीय संकट आहे, विशेषतः विकसनशील लोकशाहींसाठी. मालकी हक्क असलेल्या अल्गोरिदमची अपारदर्शकता, कायदेशीर अस्पष्टता आणि साधनांचा अभाव यामुळे अशी पोकळी तयार झाली आहे, ज्याचा फायदा अतिरेकी नेटवर्क आणि शत्रू राष्ट्रे घेत आहेत.
प्रभावी नियमनासाठी बहुस्तरीय पद्धतीची गरज आहे: जागतिक सहकार्याने मानके तयार करणे, राष्ट्रीय कायदे सुधारून उणीवा दूर करणे आणि स्थानिक क्षमतांमध्ये वाढ करून वास्तविक वेळेत धोके रोखणे. सर्वात महत्त्वाचे म्हणजे, अल्गोरिदममुळे होणारे धोके हे फक्त तांत्रिक चुका किंवा कॉर्पोरेट बेपर्वाई नाहीत, तर ते सुरक्षा, नागरी हक्क आणि सार्वजनिक विश्वास यांचे प्रश्न आहेत. धोरणकर्ते, तंत्रज्ञान कंपन्या, नागरी संस्था आणि शैक्षणिक क्षेत्र यांनी एकत्र काम करून अल्गोरिदम सुरक्षित आणि न्याय्य डिजिटल भवितव्य घडवले पाहिजे.
सौम्या अवस्थी या ऑब्झर्व्हर रिसर्च फाऊंडेशनमधील सेंटर फॉर सेक्युरिटी, स्ट्रॅटेजी अँड टेक्नॉलॉजी या केंद्राच्या फेलो आहेत.
The views expressed above belong to the author(s). ORF research and analyses now available on Telegram! Click here to access our curated content — blogs, longforms and interviews.
Dr Soumya Awasthi is a Fellow, Centre for Security, Strategy and Technology at the Observer Research Foundation. Her work focuses on the intersection of technology and ...
Read More +
PREV
.png)