Image Source: Getty
कंटेन्ट डिस्ट्रिब्युशन आणि सोशल मीडियावरील युझर एंगेजमेंटमध्ये अल्गोरिदमची भुमिका महत्त्वाची आहे. या प्रणाली वापरकर्त्याचा अनुभव आणि एंगेजमेंट वाढवण्यासाठी डिझाइन केल्या गेल्या असल्या तरीही अनेकदा अनावधानाने या प्रणालींद्वारे अतिरेकी विचारसरणीचा प्रचार आणि ध्रुवीकरणाचा धोका वाढवल्याचे दिसून आले आहे. यामुळे समाजामध्ये फुट पडण्याचा धोका संभवतो. तसेच चुकीची माहिती समाजामध्ये पसरून अतिरेकी गटांचा प्रभाव वाढण्याची शक्यता वाढते. यास अल्गोरिदमिक रॅडिकलायझेशन असे म्हटले जाते. याद्वारे सोशल मिडीयाच्या माध्यमातून वापरकर्त्यांची दिशाभुल करून डिस्क्रीमिनेटींग कंटेन्ट क्युरेशन मॉडेलद्वारे त्यांची मते तयार केली जातात.
या लेखामध्ये अल्गोरिदमिक अम्प्लिफिकेशन तसेच त्याचा अतिरेकी विचारसरणीच्या प्रसारातील वापर आणि दहशतवादाला आळा घालण्याच्या आव्हानांचा मागोवा घेण्यात आला आहे.
अल्गोरिदमिक अम्प्लिफिकेशन समजून घेताना
सोशल मीडिया अल्गोरिदम हे संगणकीकृत नियम आहेत जे वापरकर्त्याच्या वर्तनाचे परीक्षण करतात आणि लाइक्स, टिप्पण्या, शेअर्स आणि टाइमलाइन यांसारख्या परस्परसंवादी मेट्रिक्सवर आधारित सामग्री रँक करतात. कस्टमाईज्ड रेकमेंडेशन्ससाठी ते मशीन लर्निंग मॉडेलचा देखील वापर करतात. त्यामुळे हाय एंगेजमेंट्स किंवा अधिक शेअर करण्यात आलेल्या पोस्ट्सना त्वरीत लोकप्रियता मिळते आणि या प्रक्रियेत काही वेळा व्हायरल ट्रेंड उदयास येतात. म्हणूनच, ही प्रक्रिया ॲम्प्लिफायर म्हणून देखील कार्य करते. जर वापरकर्ते वारंवार एकच प्रकारचा कंटेन्ट पाहत असतील तर अशा वापरकर्त्यांसाठी अल्गोरिदम इको चेंबर देखील तयार करू शकतात.
अल्गोरिदम आणि हॅशटॅग विशिष्ट वापरकर्त्यांना लक्ष्य करून आणि वापरकर्त्याच्या आवडी आणि वर्तनांशी संरेखित पोस्टचा प्रचार करून कंटेन्ट वाढवतात.
हॅशटॅग हा यातील एक महत्त्वाचा घटक आहे. सामग्रीचे वर्गीकरण करण्यासाठी कीवर्ड म्हणून हॅशटॅग प्रभावीपणे काम करतात. त्यामुळे व्यापक डेटामधून आपल्याला हवा तो कंटेन्ट शोधणे वापरकर्त्यांस सोपे होते. जेव्हा हॅशटॅग वापरला जातो, तेव्हा तो पोस्टचा विषय ओळखणे आणि हॅशटॅग शोधणाऱ्या किंवा फॉलो करणाऱ्या वापरकर्त्यांशी लिंक करणे या बाबींमध्ये अल्गोरिदमला मदत होते. हॅशटॅगमुळे ट्रेंडिंग किंवा विशिष्ट हॅशटॅग असलेल्या पोस्टना प्राधान्य दिले जाते आणि उच्च व्यस्ततेमुळे त्यांची दृश्यमानता आणखी वाढते. अल्गोरिदम आणि हॅशटॅग विशिष्ट वापरकर्त्यांना लक्ष्य करून आणि वापरकर्त्याच्या आवडी आणि वर्तनांशी संरेखित पोस्टचा प्रचार करून कंटेन्ट वाढवतात.
प्रचारामधील अल्गोरिदमिक एको आणि दहशतवाद
अल्गोरिदम हे युट्युब, टिकटॉक, फेसबुक, पूर्वी ट्विटर म्हणून ओळखले जाणारे आणि आताचे एक्स तसेच इन्स्टाग्रामसारख्या सोशल मीडिया प्लॅटफॉर्मच्या केंद्रस्थानी आहेत. हे अल्गोरिदम वापरकर्त्यांना त्यांचे डिजिटल इंटरॅक्शन, वर्तन, प्राधान्ये आणि एंगेजमेंट यानुसार कोणता डेटा पाठवला जातो यावर नियंत्रण ठेवतात. अल्गोरिदम सामान्यतः लाइक्स आणि शेअर्स यांसारख्या मेट्रिक्सवर लक्ष केंद्रित करून, ध्रुवीकरणाला चालना देणाऱ्या कथनाबाबत फीडबॅक लूप तयार करून भावनिक उत्तेजक किंवा वादग्रस्त सामग्रीचा प्रचार करतात. जो बर्टन यांनी केलेल्या अभ्यासात असे दिसून आले आहे की अल्गोरिदमिक बायस (पूर्वग्रह) हे भीती, राग किंवा संताप याद्वारे युजर एंगेजमेंट वाढवू शकतात, तसेच यामुळे अतिरेकी विचारसरणींचा जन्म होऊ शकतो आणि वापरकर्त्यांना कट्टरपंथी सामग्रीपासून असुरक्षित करण्यासही हे अल्गोरिदम जबाबदार असतात.
इस्लामिक स्टेट (आयएस) आणि अल-कायदा या दोन अतिरेकी गटांनी अशा प्लॅटफॉर्मचा प्रभावीपणे वापर आपल्या विचारसरणीचा प्रसार करण्यासाठी आणि सदस्यांची नियुक्ती करण्यासाठी केला आहे. उदाहरणार्थ, आयएसने आपल्या अनुयायांमध्ये आपुलकीची भावना वाढवण्यासाठी एक्स आणि टेलिग्रामचा वापर केला आहे. तसेच अनेकदा लोकांना कट्टरपंथी बनवण्याच्या उद्देशाने भावनिक उत्तेजक सामग्रीही प्रकाशित केली आहे. दरम्यान, अल-कायदा त्यांच्या व्हिडिओंमध्ये एनक्रिप्टेड लिंकसह भाषणे प्रसारित करण्यासाठी आणि प्रशिक्षण देण्यासाठी युट्यूबचा वापर करत आहे. टिकटॉकचा वापर स्पेक्ट्रमच्या दुसऱ्या टोकाला असलेल्या अगदी उजव्या विचारसरणीच्या घटकांनीही केला आहे. टिकटॉकवरील “ फॉर यू” या पेजचा वापर वारंवार वापरकर्त्यांना उजव्या विचारसरणीच्या सामग्रीची शिफारस करण्यासाठी केला जातो. यात त्यांना अल्गोरिदमिक रॅबिट होलमध्ये टाकून अतिरेकी विचारसरणी वाढीस लावण्याचे प्रयत्न केले जातात.
अल्गोरिदम सामान्यतः लाइक्स आणि शेअर्स यांसारख्या मेट्रिक्सवर लक्ष केंद्रित करून, ध्रुवीकरणाला चालना देणाऱ्या कथनाबाबत फीडबॅक लूप तयार करून भावनिक उत्तेजक किंवा वादग्रस्त सामग्रीचा प्रचार करतात.
अल्गोरिदमिक शोषण हे केवळ दहशतवादापुरतेच मर्यादित नाही. याचा वापर निवडणुकांदरम्यान चुकीची माहिती पसरवण्यासाठी देखील केला जातो, त्यामुळे अनेकदा हिंसाचाराच्या घटना घडतात आणि समाजामधील ध्रुवीकरण वाढीस लागते. या उदाहरणांमधून अल्गोरिदम योग्य माहितीपेक्षा एंगेजमेंटला कसा प्राधान्य देतो हे अधोरेखित होते. तसेच यामुळे चुकीची माहिती, ध्रुवीकरण आणि अतिरेकी विचारसरणीचा प्रसार केला जातो. त्यामुळे आधुनिक सायबर आणि वैचारिक युद्धात त्याचा प्रभावीपणे वापर केला जातो. भावनिक कंटेन्टला प्रोत्साहन देऊन अल्गोरिदमच्या सहाय्याने अतिरेकी विचारसरणी प्रसारित केली जाते. यात "फिल्टर बबल" तयार करून, अल्गोरिदम हा वापरकर्त्यांना त्यांच्या पूर्वाग्रहांशी जुळणाऱ्या विचारसरणीशी संबंधीत कंटेन्ट दाखवतात, त्यामुळे अशा विचारांना बळकटी मिळते.
जोखीम कमी करणे: तांत्रिक उपाय आणि धोरणात्मक उपाययोजना
अल्गोरिदममधील अस्पष्टता लक्षात घेता, त्यांच्यामुळे सोशल मिडीयावर निर्माण होणाऱ्या आव्हानांना समजून घेणे महत्त्वाचे आहे. यात अतिरेकी विचारसरणीशी निगडीत कंटेन्टचा प्रसार हे एक प्रमुख आव्हान आहे. अल्गोरिदम हे "ब्लॅक बॉक्स" प्रमाणे कार्य करतात. त्यामुळे एखाद्या कंटेन्टची शिफारस कशाप्रकारे केली जाते याबाबत डेव्हलपर्सना देखील पुरेशी माहिती नसते. उदाहरणार्थ टिकटॉकवरील फॉर यू या पेजला खळबळजनक आणि अतिरेकी कंटेन्टमुळे फ्लॅग करण्यात आले आहे. परंतू, याच्याशी निगडीत अल्गोरिदममध्ये बदल करणे यावर अनेक मर्यादा आहेत. अतिरेकी गट याचाच फायदा घेतात. डिटेक्शन यंत्रणेला गुंगारा देण्यासाठी ते त्यांचा कंटेन्ट हा युफेमिझम किंवा चिन्हांमध्ये बदलतात. तसेच, स्थानिक सामाजिक-सांस्कृतिक संदर्भांचा विचार न करता अल्गोरिदमवरील माहितीमुळे समस्या अधिक बिकट होते.
अभिव्यक्ती स्वातंत्र्य आणि प्रभावी सामग्री नियंत्रण यांचे संतुलन राखणे ही एक जटिल समस्या आहे. जर्मनीमधील नेट्झ कायद्यासारख्या धोरणांचा उद्देश ऑनलाईन हेट स्पिचवर मर्यादा आणणे आणि विशिष्ट कालावधीमध्ये सोशल मिडीया प्लॅटफॉर्म्सवरील कंटेन्ट काढण्याची सक्ती करणे हा आहे. अतिरेकी गट या संतुलित कृतींमधील कमकुवतपणा शोधून काढतात. त्यामुळे कायदेशीर सीमारेषेच्या आत राहून त्यांना कंटेन्ट तयार करता येतो व समाजात फूट पाडणाऱ्या विचारसरणीचा प्रसार सुरू ठेवता येतो.
युट्यूबच्या मशीन-लर्निंग मॉडेल २०२३ सारख्या आर्टिफिशियल इंटेलिजंस (एआय) ड्रिव्हन मॉडरेशनचा वापर करून अतिरेकी विचारसरणी पसरवणाऱ्या व्हिडीओजची संख्या ३० टक्क्यांनी कमी झाल्याने अतिरेकी विचारसरणीचे अल्गोरिदमिक अम्प्लिफीकेशन कमी करणे शक्य झाले आहे. असे असले तरी, अल कायदा आणि आयएस हे डिटेक्शन टाळण्यासाठी कोडेड लॅंग्वेज आणि उपाहासाचा वापर करतात. इन्स्टाग्रामवरील सहिष्णुतेला प्रोत्साहन देणाऱ्या सर्चस वर पुनर्निर्देशित करणाऱ्या रचनात्मक पर्यायांमुळे काऊंटर नॅरॅटिव्ह धोरणांना बळकटी मिळते.
युट्यूबच्या मशीन-लर्निंग मॉडेल २०२३ सारख्या आर्टिफिशियल इंटेलिजंस (एआय) ड्रिव्हन मॉडरेशनचा वापर करून अतिरेकी विचारसरणी पसरवणाऱ्या व्हिडीओजची संख्या ३० टक्क्यांनी कमी झाल्याने अतिरेकी विचारसरणीचे अल्गोरिदमिक अम्प्लिफीकेशन कमी करणे शक्य झाले आहे.
भारताच्या इलेक्ट्रॉनिक्स आणि माहिती तंत्रज्ञान मंत्रालयाच्या पुढाकाराने हानिकारक सामग्री होस्ट करणाऱ्या ९८४५ हून अधिक युआरएल ध्वजांकित करण्यात आल्या आहेत. आयटी नियम २०२१ अंतर्गत, भारत सरकार सोशल मीडिया, डिजिटल बातम्या आणि ओव्हर-द-टॉप (ओटीटी) प्लॅटफॉर्मचे नियमन करते. या नियमांमुळे ३६ तासांच्या आत सामग्रीच्या प्रथम प्रवर्तकाचा शोध घेतला जातो आणि ध्वजांकित सामग्री काढून टाकली जाते. त्यामुळे, अतिरेकी विचारसरणीचा प्रभावीपणे मुकाबला करण्यासाठी सतत नावीन्य आणि सहकार्य आवश्यक आहे.
अल्गोरिदमिक रॅडिकलायझेशनचा सामना करताना
वर नमूद केलेल्या उपायांव्यतिरिक्त, अल्गोरिदमिक पारदर्शकता सुलभ करण्यासाठी आणि अतिरेकी सामग्रीचा प्रसार तपासण्यासाठी बरीच पावले उचलली जाऊ शकतात.
· पारदर्शकता आणि निष्पक्षता सुनिश्चित करण्यासाठी नियमित अल्गोरिदम ऑडिट अनिवार्य असणे गरजेचे आहे. उदाहरणार्थ, युरोपियन युनियन डिजिटल सर्व्हिसेसे ॲक्ट २०२३ नुसार सोशल मीडिया ॲप्सनी त्यांचे अल्गोरिदम कसे कार्य करतात हे उघड करणे आवश्यक आहे. तसेच स्वतंत्र संशोधकांद्वारे वापरकर्त्यांवरील अल्गोरिदमच्या प्रभावाचे मूल्यांकन करण्यास अनुमती मिळते.
· धोरणकर्त्यांनी अल्गोरिदमिक उत्तरदायित्वाचे नियम स्पष्टपणे परिभाषित करणे गरजेचे आहे. यामध्ये हानिकारक सामग्रीच्या विस्तारास संबोधित करण्यात अयशस्वी ठरणाऱ्या प्लॅटफॉर्मवर दंडात्मक कारवाई करता येऊ शकते. २४ तासांच्या आत बेकायदेशीर सामग्री न काढल्याबद्दल सोशल मीडिया कंपन्यांना दंड करणारा जर्मनीचा नेट्झ कायदा महत्त्वाचा आहे. हा कायदा संपूर्ण युरोपमध्ये अशा प्रकारचा कायदा आणण्यासाठी प्रेरक आहे.
· स्थानिक संदर्भांनुसार सानुकूल-निर्मित सामग्री नियंत्रणासाठी अल्गोरिदमचे समायोजन करणे आवश्यक आहे. विशिष्ट राज्य किंवा देशामध्ये सामाजिक-राजकीय अंडरकरंट्समधून अतिरेकी सामग्री वारंवार व्युत्पन्न केली जाते, त्यामुळे अल्गोरिदमिक फ्रेमवर्कवर काम करताना हे बारकावे समजून घेणे महत्त्वाचे ठरते. उदाहरणार्थ, फ्रान्समधील नियामकांनी आधीच सोशल मीडिया कंपन्यांशी त्यांच्या अल्गोरिदमची क्षमता वाढवण्याकरिता भागीदारी केली आहे, परिणामी, देशामध्ये बोलल्या जाणाऱ्या विविध बोलीभाषांचा विचार करून अतिरेकी सामग्री शोधण्याची आणि नियंत्रित करण्याची क्षमता वाढली आहे.
वापरकर्त्यांना अतिरेकी विचारांचा प्रचार ओळखण्यात मदत करण्यासाठी आणि अशा प्रकारच्या कंटेन्टचा प्रसार रोखण्यासाठी सरकारने जनजागृती मोहीम राबविली पाहिजे.
निष्कर्ष
अतिरेकी विचारसरणीचा प्रसार आणि प्रचार यांच्या अल्गोरिदमिक अम्प्लिफिकेशनमुळे या डिजीटल युगात एक मोठे आव्हान समोर आले आहे. या आव्हानाचा थेट परिणाम सामाजिक एकसंधता, राजकीय स्थिरता आणि सार्वजनिक सुरक्षिततेवर झाला आहे. तंत्रज्ञान, नवनवीन शोध आणि नियामक तपासण्यांसह एक बहुआयामी दृष्टीकोन आणणे ही काळाची गरज आहे. युट्यूब, टिकटॉक आणि फेसबुक हे त्यांच्या अल्गोरिदममध्ये सुधारणा आणण्यासाठी प्रयत्न करत आहेत. या प्रयत्नांमध्ये पारदर्शकता, सांस्कृतिक संवेदनशीलता व संयम आणि अभिव्यक्ती स्वातंत्र्य यांच्यातील योग्य संतुलन राखणे हे एक मोठे आव्हान आहे. हा समतोल साधण्यासाठी सरकार, टेक कंपन्या, नागरी समाज आणि वापरकर्ते यांच्या एकत्रित प्रयत्नांची आवश्यकता असणार आहे. वापरकर्त्यांना अतिरेकी विचारांचा प्रचार ओळखण्यात मदत करण्यासाठी आणि अशा प्रकारच्या कंटेन्टचा प्रसार रोखण्यासाठी सरकारने जनजागृती मोहीम राबविली पाहिजे. उदाहरणार्थ, यूकेच्या ऑनलाइन सुरक्षा विधेयकात ऑनलाइन माध्यम साक्षरता सुधारण्यासाठी सार्वजनिक शैक्षणिक उपक्रमांमध्ये तरतूदी करण्यात आल्या आहेत.
त्यामुळे, अतिरेकी विचारसरणीच्या अल्गोरिदमिक प्रसारामुळे निर्माण होणारे धोके आणि आव्हाने सार्वजनिक-खाजगी भागीदारीच्या संयुक्त प्रयत्नांद्वारे कमी करणे शक्य आहे.
सौम्या अवस्थी ह्या ऑब्झर्व्हर रिसर्च फाउंडेशनच्या सेंटर फॉर सिक्युरिटी, स्ट्रॅटेजी अँड टेक्नॉलॉजीच्या फेलो आहेत.
The views expressed above belong to the author(s). ORF research and analyses now available on Telegram! Click here to access our curated content — blogs, longforms and interviews.
PREV
