AI च्या युगात दहशतवादी आणि हिंसक अतिरेकी त्यांचे ऑनलाइन डावपेच स्वीकारताना दिसत आहेत. त्यामुळेच या गोष्टींचा सामना करण्यासाठी नवीन साधने आणि दृष्टीकोन वापरून दहशतवादविरोधी प्रयत्न देखील विकसित झाले पाहिजेत.
हा लेख रायसीना एडिट 2024 या मालिकेचा भाग आहे.
आर्टिफिशियल इंटेलिजन्स (AI) च्या युगात वाढतं धोक्यांपासून सावध राहण्यासाठी ऑफलाइन आणि ऑनलाइन दोन्ही प्रकारचे दहशतवाद आणि कट्टरवादविरोधी प्रयत्न विकसित झाले पाहिजेत. तथापि, जसजसे आम्ही साधने आणि दृष्टिकोन विकसित करतो, तसतसे प्रयत्न केलेले आणि चाचणी केलेले फ्रेमवर्क बरोबर भागीदारी राखणे तसेच ती अधिक मजबूत करणे सध्या तरी महत्वाचे आहे.
ग्लोबल इंटरनेट फोरम टू काउंटर टेररिझम (GIFCT) दहशतवादी आणि हिंसक अतिरेकी सामग्री (TVEC) च्या नमुन्यांमधील बदल ओळखण्यासाठी त्याच्या कार्यक्रम, कार्यगट आणि संशोधन शाखा - ग्लोबल नेटवर्क ऑन एक्स्ट्रिमिझम अँड टेक्नॉलॉजी (GNET) द्वारे, त्याच्या मल्टीस्टेकहोल्डर समुदायाला एकत्रित करत आले असून भविष्यातील ऑनलाइन धोके ओळखण्यासाठी स्कॅन करत राहणे आवश्यक आहे.
2024 मध्ये AI चर्चेत आघाडीवर राहणार आहे. Microsoft, Meta आणि YouTube सारख्या मोठ्या तंत्रज्ञान कंपन्यांनी त्यांच्या व्यापक सुरक्षा प्रयत्नांचा एक भाग म्हणून जबाबदारीने AI तयार करण्याचा त्यांचा मानस आहे हे स्पष्ट केले आहे. तथापि, एआय टूल्सच्या मुक्त स्रोत आणि व्यापक प्रवेशाचा अर्थ असा आहे की या क्षेत्रातील वाईट वृत्ती नवीन डावपेच कसे स्वीकारतील याबद्दल चिंतेची एक नवीन लाट सध्या निर्माण झाली आहे. उदाहरणार्थ, सिंथेटिक ऑडिओ, व्हिडिओ आणि प्रतिमा सामग्रीशी संबंधित जोखीम हायलाइट करून जनरेटिव्ह एआय मॉडेल्सचा कसा उपयोग केला जाऊ शकतो हे GIFCT ने मॅप केले आहे.
सोशल मीडिया वापराच्या उत्क्रांतीशी जुळवून घेणे कायद्याची अंमलबजावणी आणि वैयक्तिक प्लॅटफॉर्मच्या सुरक्षा संघांसाठी विशेषतः प्लॅटफॉर्मवरील धोक्याच्या सिग्नलला प्रतिसाद देण्यासाठी सतत संघर्ष करणारे असेल. दहशतवादी नेटवर्क क्रॉस-प्लॅटफॉर्म आणि ट्रान्सनॅशनल अशा दोन्ही प्रणालीमध्ये राष्ट्रीय-केंद्रित नियामक फ्रेमवर्कमध्ये वाढ झाल्याने सामग्री नियमनासाठी एकत्रित दृष्टिकोन कठीण झालेला दिसत आहे.
ऑनलाइन आणि ऑफलाइन दहशतवादविरोधी प्रयत्नांना 3D प्रिंटिंग तंत्रज्ञान आणि मानवरहित हवाई वाहने (UAVs) च्या संभाव्य वाढीव शोषणापासून दूर करणे अधिक कठीण आहे. 2019 पासून दहशतवादी किंवा हिंसक अतिरेकी 3D प्रिंटिंगचा वापर करून बंदुका विकसित करण्याच्या प्रयत्नामुळे मुख्यत्वे करून वर्चस्वाच्या नेटवर्कमधून कमीत कमी नऊ प्रकरणे नोंदवली गेली आहेत. आफ्रिकेतील अल-कायदा, इस्लामिक स्टेट आणि अल शबाब यांच्याद्वारे ड्रोन आणि इतर UAV चा वापर वाढला आहे. शस्त्रास्त्रांसाठी 3D प्रिंटिंग सूचनांचे शेअरिंग किंवा शोषणात्मक हेतूंसाठी ड्रोनची विक्री कशी करावी हे सध्या तरी अविकसित राहिले आहे. तरीही अलीकडील उपक्रम-जसे की UN दिल्ली घोषणा, ऑक्टोबर 2022 मध्ये घोषित करण्यात आली. दहशतवादी हेतूंसाठी नवीन आणि उदयोन्मुख तंत्रज्ञानाचा वापर रोखण्यासाठी आणि UN अबू धाबी मार्गदर्शक तत्त्वे, डिसेंबर 2023 मध्ये मानवरहित विमान प्रणालीचा दहशतवादी हेतूंसाठी वापरामुळे निर्माण होणाऱ्या धोक्यांवर प्रकाशीत करण्यात आला आहे - ही एक सुरुवात आहे, असे म्हणावे लागेल.
ऑनलाइन प्रभावी दहशतवाद आणि अतिरेकी विरोधी प्रयत्नांचे तीन स्तर आहेत: प्लॅटफॉर्ममधील सुरक्षा प्रयत्न; तृतीय पक्षासह प्लॅटफॉर्म भागीदारी; क्रॉस-प्लॅटफॉर्म किंवा इंटरनेट-व्यापी उपाय.
मोठ्या कंपन्यांनी दहशतवादाचा मुकाबला करण्यासाठी प्लॅटफॉर्ममधील साधने लागू केली आहेत. जसे की प्रतिमा आणि व्हिडिओ जुळणे, रीसिडिव्हिझम शोधणे, भाषा समजण्यासाठी AI वापरणे आणि स्ट्रॅटेजिक नेटवर्क व्यत्यय (SND) वापरणे या गोष्टींचा समावेश आहे.
वैयक्तिक टेक कंपन्यांचे उल्लंघन करणारी सामग्री ओळखण्यासाठी आणि ती काढून टाकण्यासाठी नियमन आणि कायदेशीर अनुपालनाचे प्रयत्न त्यांच्या सार्वजनिक धोरणे, वापरकर्ता सुरक्षा केंद्रे आणि पारदर्शकता अहवालांमध्ये दिसून येतात. मोठ्या कंपन्यांनी दहशतवादाचा मुकाबला करण्यासाठी प्लॅटफॉर्ममधील साधने लागू केली आहेत, जसे की प्रतिमा आणि व्हिडिओ जुळणे, रीसिडिव्हिझम शोधणे, भाषा समजण्यासाठी AI वापरणे आणि स्ट्रॅटेजिक नेटवर्क व्यत्यय (SND) वापरणे. तथापि, अशी साधने व्यवस्थापित करण्यासाठी पुरेशी मानवी संसाधने सुनिश्चित करताना सुरक्षितता साधने विकसित करण्यासाठी संसाधनांचे वाटप करणे—भौगोलिक कव्हरेज आणि विषयातील कौशल्याची आवश्यकता यासह—एक आव्हान असू शकते. विशेषत: जेव्हा कंपन्या एकाधिक सुरक्षा धोके व्यवस्थापित करत असतात त्यावेळी.
प्लॅटफॉर्म आणि तृतीय पक्षांमधली भागीदारी दहशतवादविरोधी आणि अतिरेकी विरोधी प्रयत्नांना बळकट करण्यासाठी "विश्वसनीय फ्लॅगर प्रोग्राम्स" यांचा समावेश करण्यात आला आहे. फ्लॅगिंग URL किंवा इतर उल्लंघन करणारी सामग्री, SITE, Flashpoint, Jihadoscope आणि Memri सारख्या विक्रेत्यांकडील सेवा गुंतवून ठेवण्यासाठी आणि सरकारद्वारे. -निधीत सार्वजनिक-खाजगी भागीदारी जसे की दहशतवादी सामग्री विश्लेषण प्लॅटफॉर्म (TCAP). प्लॅटफॉर्म भागीदारींमध्ये सकारात्मक हस्तक्षेपासाठी प्रगत पद्धती देखील आहेत. या प्रकरणांमध्ये स्केल एका प्लॅटफॉर्मपुरते मर्यादित आहे आणि ते एनजीओसह संवेदनशील भागीदारी करणारे असून ते सूक्ष्म सामग्री विकासक आणि धोरणात्मक संवादावर अवलंबून असते. परिणामकारकता वाढवण्यासाठी व्यापक सकारात्मक हस्तक्षेप धोरणे आवश्यक आहेत आणि त्यात विविध सामाजिक प्लॅटफॉर्म, गेमिंग प्लॅटफॉर्म आणि ऑनलाइन मार्केटप्लेस समाविष्ट करणे आवश्यक आहे,
प्रतिबंध करण्यासाठी स्केल केलेले आणि भविष्यातील-प्रूफ केलेले उपाय आणि TVEC ला प्रतिसाद देण्यासाठी त्याचे क्रॉस-प्लॅटफॉर्म आणि आंतरराष्ट्रीय स्वरूप ओळखले पाहिजे. GIFCT ने क्रॉस-प्लॅटफॉर्म सोल्यूशन्स विकसित केले आहेत जे धोक्यात वाढ म्हणून व्यवहार्य आणि स्केलेबल दोन्ही आहेत. हे सर्व आकारांच्या कंपन्यांसाठी प्रवेशयोग्य आहेत. 2018 पासून TVEC शी संबंधित सिग्नल शेअर करण्यासाठी GIFCT सदस्य कंपन्यांसोबत हॅश शेअरिंग तंत्रज्ञान विकसित केले आहे.
जीआयएफसीटी हॅश शेअरिंग डेटाबेस (एचएसडीबी) ने लॉन्च झाल्यापासून दोनदा त्याचे वर्गीकरण आणि तांत्रिक क्षमता विकसित केली आहे जेणेकरून ते धोक्याचा सामना करणाऱ्या प्लॅटफॉर्मचे प्रतिबिंबित करत आहे. प्लॅटफॉर्मद्वारे आंतरिकरित्या विकसित केलेल्या पध्दतींसह एकत्रित देखील राहते आहे. हे करण्यासाठी GIFCT सदस्य कंपन्यांनी TVEC समावेशासाठी व्याख्या आणि फ्रेमवर्कवर सहमत होणे आवश्यक आहे. जे आधीच आंतरराष्ट्रीय सहमती नसलेल्या जागेत एक उपलब्धी आहे. HSDB ची स्थापना युनायटेड नेशन्स सिक्युरिटी कौन्सिल कन्सोलिडेटेड लिस्ट मधील घटकांशी संबंधित हॅश केलेली सामग्री शेअर करण्याच्या करारावर करण्यात आली आहे. ठराव 1267 द्वारे स्थापित केले गेले आहे. तथापि, असे अनेक एकटे हल्लेखोर आणि राष्ट्रीय हिंसक अतिरेकी गट आहेत जे कधीही या यादीत येऊ शकत नाहीत.
न्यूझीलंडमध्ये 2019 मध्ये क्राइस्टचर्च दहशतवादी हल्ल्यानंतर, GIFCT ने घटना प्रतिसाद फ्रेमवर्क विकसित केला आणि त्याच्या सामग्री घटना प्रोटोकॉलशी संबंधित गुन्हेगार सामग्री समाविष्ट करण्यासाठी HSDB चा विस्तार केला. 2021 मध्ये सरकारी पदनाम सूचीमधील पूर्वाग्रहांच्या आंतरराष्ट्रीय चिंतेला प्रतिसाद देत आणि एकट्या नेतृत्वाच्या व्हाईट वर्चस्वाच्या हल्ल्यांमध्ये वाढ होत असल्याचे पाहून, GIFCT ने आक्रमणकर्ता घोषणापत्र आणि ब्रँडेड TVEC च्या हॅशचा समावेश करण्यासाठी त्याचे वर्गीकरण पुन्हा विस्तारित केले. विस्तारांना "सामग्री" चे पुढील प्रकार समाविष्ट करण्यासाठी तांत्रिक अपडेट देखील आवश्यक आहे. HSDB आता केवळ प्रतिमा आणि व्हिडिओच नव्हे तर PDF, URL आणि ऑडिओ फायली देखील हॅश सामायिक करू शकणार आहे.
या क्षेत्रातील वाईट प्रवृत्ती सामग्रीच्या पलीकडे जाऊन कसे कार्य करतात, यात वापरकर्त्याच्या वर्तनाचे सोशल नेटवर्क कसे दिसते, हे समजून घेण्यापासून ते आर्थिक व्यवहार आणि हिंसक हेतू लपविण्यासाठी कोडेड भाषा या सर्व गोष्टींचा समावेश असू शकतो. सामग्री-केंद्रित सिग्नलच्या पलीकडे क्रॉस-प्लॅटफॉर्म धोक्याचा शोध विस्तारित करणे गंभीर असेल, परंतु दहशतवादविरोधी प्रयत्न प्रमाणबद्ध आहेत आणि मानवी हक्कांवर अडथळा आणू नयेत याची खात्री करण्यासाठी उच्च प्रमाणात बहु-भागधारक प्रतिबद्धता आवश्यक राहणार आहे.
फ्युचर-प्रूफिंग काउंटर टेररिझम आणि कट्टरवादाचे ऑनलाइन प्रयत्न AI सुरक्षा साधनांचा स्वीकार करणे, प्लॅटफॉर्मवर कोणते सिग्नल शेअर केले जाऊ शकतात याचा विस्तार करणे आणि बहु-स्तरीय धोका शोध मॉडेल वापरणे यावर अवलंबून असतात. AI आणि मशीन लर्निंग आधीच दहशतवादाचा सामना करण्यासाठी वापरात आहे आणि ऑनलाइन TVEC प्रसाराच्या प्रमाणात आणि गतीपर्यंत पोहोचण्यात मदत करण्यासाठी त्याचा विस्तार केला पाहिजे. दहशतवादी आणि हिंसक अतिरेक्यांनी सिंथेटिक आणि AI-व्युत्पन्न केलेली सामग्री आधीच HSDB साठी समावेशन पॅरामीटर्सचा भाग आहे. परंतु GIFCT ने समावेशन निकषांचे पुनरावलोकन करण्याची योजना आखली आहे. जेणेकरून ते हेतूसाठी योग्य असतील आणि सामग्रीचे नवीन प्रकार जोडले जावेत की नाही यावर प्रश्न विचारला जाईल. कंपन्यांमधील सामग्री सिग्नल सामायिक करण्यासाठी हॅशिंग ही सर्वात प्रभावी आणि चाचणी केलेली पद्धत आहे. जोपर्यंत AI किंवा वापरकर्ता-व्युत्पन्न सामग्री ही समस्या राहते तोपर्यंत हॅशिंग हे कंपन्यांसाठी सिग्नल सामायिक करण्यासाठी एक महत्त्वाचे क्रॉस-प्लॅटफॉर्म साधन म्हणून पुढे चालू राहील आणि उल्लंघन करणारी सामग्री काढून टाकण्यास मदत करेल.
AI आणि मशीन लर्निंग आधीच दहशतवादाचा सामना करण्यासाठी वापरात आहे आणि ऑनलाइन TVEC प्रसाराच्या प्रमाणात आणि गतीपर्यंत पोहोचण्यात मदत करण्यासाठी त्याचा विस्तार केला पाहिजे.
सुरक्षेचे प्रयत्न देखील जोडलेले आहेत. नवीन साधन किंवा दृष्टिकोनाचा प्रकटीकरण क्वचितच पूर्वीची साधने आणि भागीदारी अप्रचलित करणारी आहे. GIFCT चे तंत्रज्ञान संचालक टॉम थॉर्ले स्पष्ट करतात की, "तुम्ही कारसाठी एअरबॅग शोधून काढल्यामुळे, याचा अर्थ तुम्ही सीटबेल्टपासून मुक्त व्हाल असा नाही." दहशतवादविरोधी अधिक जटिल दृष्टिकोन अल्गोरिदमिक प्रक्रियांना विविध स्तर देऊ शकतात. GIFCT तांत्रिक चाचण्यांनी दाखवले की साधने एकत्र केल्याने आणि स्तरित सिग्नल पद्धती वापरल्याने TVEC सरफेस करण्यासाठी खोटे/सकारात्मक दर कमी झाले आहेत. ऑनलाइन सुरक्षा पद्धती हायब्रीड मॉडेल्स म्हणून सर्वोत्तम कार्य करतात, जिथे मानवी निरीक्षण अल्गोरिदमिक प्रगतीसह दहशतवाद आणि हिंसक अतिरेकीचा ऑनलाइन सामना करण्यासाठी प्रणाली तयार, परिष्कृत आणि नवीन आणण्यासाठी कार्य करताना दिसत आहे.
कोणतेही एक राज्य किंवा क्षेत्र ऑनलाइन दहशतवादी आणि हिंसक अतिरेकी सामग्रीमुळे निर्माण झालेल्या व्यापक आव्हानांना तोंड देऊ शकत नाही. सुरक्षा दृष्टिकोन विकसित करताना दहशतवादविरोधी प्रयत्न परिभाषित करण्यायोग्य, बचाव करण्यायोग्य, वाढवता येण्याजोगे, प्रमाणबद्ध आणि मानवी हक्कांच्या विचारात आणि आंतरराष्ट्रीय कायदेशीर दायित्वांच्या अनुषंगाने आहेत याची खात्री करण्यासाठी मल्टीस्टेकहोल्डरिझम आवश्यक असेल. 2021 मध्ये GIFCT चे मानवी हक्क प्रभाव मूल्यमापन दहशतवादविरोधी कार्यामध्ये मानवी हक्क ओळखण्यासाठी आणि त्यांना बळकट करण्यासाठी करण्यात आले होते. हे समजून घेताना की मानवी हक्कांचे संरक्षण आणि संवर्धन-म्हणजे दहशतवाद आणि हिंसक अतिरेक्यांना बळी पडलेल्या आणि प्रभावित समुदायांचे अधिकार- प्रभावी होण्यासाठी केंद्रस्थानी आहे. क्रॉस-प्लॅटफॉर्म दहशतवादविरोधी कार्य मानवी हक्कांच्या संरक्षणाशी संरेखित होते याची खात्री करण्याचा एक भाग म्हणजे प्लॅटफॉर्मची विस्तृत विविधता एकत्र आणणे, इंटरनेटची विषमता प्रदर्शित करणे, तसेच सरकार, खाजगी क्षेत्र आणि नागरी समाज यांना ज्ञान सामायिक करण्यासाठी जागा प्रदान करणे. जसे की रायसीना डायलॉग दरवर्षी दिल्लीत दिले जाते. टेक कंपन्या बॉर्डरलाइन सामग्री आणि अर्थपूर्ण पारदर्शकता म्हणजे काय यासारख्या विषयांवर सरकार आणि तज्ञांकडून मार्गदर्शन शोधत आहेत. दहशतवादविरोधी प्रयत्न त्यांच्या गरजा आणि धोके प्रतिबिंबित करतात याची खात्री करण्यासाठी या समुदायांमधील सतत परस्परसंवाद महत्त्वपूर्ण आहे.
जसे दहशतवादी आणि हिंसक अतिरेकी त्यांचे ऑनलाइन डावपेच विकसित करतात, तसेच अभ्यासक, प्लॅटफॉर्म आणि सरकारे देखील आवश्यक आहेत. एकत्र काम करून, ज्ञानाची देवाणघेवाण करून आणि प्रयत्नांना पुढे जाण्यासाठी समान आधार शोधणे सर्वोत्तम प्रकारे केले जायला हवे.
एरिन सॉल्टमन ग्लोबल इंटरनेट फोरम टू काउंटर टेररिझम (GIFCT) मध्ये सदस्य आणि कार्यक्रम संचालक आहेत.
The views expressed above belong to the author(s). ORF research and analyses now available on Telegram! Click here to access our curated content — blogs, longforms and interviews.
PREV
