Author : Erin Saltman

Published on Sep 28, 2020 Updated 0 Hours ago

आतंकवाद और चरमपंथ ऐसी अवधारणाएं हैं जो लगतार बदल रही हैं, और इसके साथ ही इंटरनेट पर मौजूद सामग्री का कलेवर भी बदल रहा है. ऐसे में ये साझेदारी हमें इन माध्यमों और इनके रुझानों से परे देखने का अवसर देती है.

फेसबुक पर आतंकवाद और हिंसक चरमपंथ का विरोध: तकनीक, विशेषज्ञता और साझेदारी

फेसबुक और इसे जुड़े अलग-अलग माध्यमों को सुरक्षित रखने के लिए हम विशेषज्ञों, तकनीक और लोगों के साथ साझेदारी की मिलीजुली मदद पर भरोसा करते हैं. एक ओर जहां सरकारें, कंपनियां और गैर-लाभकारी संगठन, आतंकवादी प्रचार से ऑनलाइन निपटने की कोशिशों में जुटे हैं, वहीं हमारे सामने मौजूद सबसे जटिल प्रश्न यह है, कि यह वैश्विक समस्या जो वेब और इंटरनेट के विभिन्न हिस्सों को अलग-अलग तरीकों से अपनी गिरफ़्त में ले रही है, इससे निपटने का सबसे बेहतर तरीका क्या है?

विश्लेषक और पर्यवेक्षक अक्सर फेसबुक को लेकर हमसे पूछते हैं कि, अपने विशाल डेटाबेस और उन्नत प्रौद्योगिकी के सहारे हम तकनीक का उपयोग करते हुए आतंकवाद से हो रहे नुकसान और इस तरह की ग़लत गतिविधियों को अपने स्तर पर प्रतिबंधित क्यों नहीं कर सकते? सच यह है कि इस काम को करने के लिए हमें बड़ी संख्या में लोगों की ज़रूरत होगी और इंटरनेट पर समूचे ढंग से आतंकवाद से जुड़ी सामग्री के प्रसार को रोकने और इस दिशा में वाकई प्रभावी होने के लिए यह ज़रूरी है कि, हमारे साथ दूसरे लोग भी इस प्रक्रिया में शामिल हों. अंतत: हमें यह ध्यान रखना होगा कि यह काम प्रौद्योगिकी, मानव विशेषज्ञता और साझेदारी के मिलेजुले और संतुलित प्रयासों से ही संभव है.

इस काम को करने के लिए हमें बड़ी संख्या में लोगों की ज़रूरत होगी और इंटरनेट पर समूचे ढंग से आतंकवाद से जुड़ी सामग्री के प्रसार को रोकने और इस दिशा में वाकई प्रभावी होने के लिए यह ज़रूरी है कि, हमारे साथ दूसरे लोग भी इस प्रक्रिया में शामिल हों.

प्रौद्योगिकी हमें ऑनलाइन सामग्री को बड़े पैमाने पर संगठित करने और पूरी गति के साथ उसका प्रबंधन करने में मदद करती है. आतंकवाद और हिंसक चरमपंथ संबंधी सामग्री को समझने और यह जानने के लिए कि यह विश्व को किस रूप में प्रभावित करती है, मानवीय विशेषज्ञता और इन मामलों की बीरीक़ समझ होना ज़रूरी है. आतंकवाद और चरमपंथ ऐसी अवधारणाएं हैं जो लगतार बदल रही हैं, और इसके साथ ही इंटरनेट पर मौजूद सामग्री का कलेवर भी बदल रहा है. ऐसे में ये साझेदारी हमें इन माध्यमों और इनके रुझानों से परे देखने का अवसर देती है. इसके ज़रिए ऑनलाइन और ऑफलाइन के बीच के परस्पर संबंध को बेहतर ढंग से समझा जा सकता है, और नागरिक समाज के संगठनों के साथ मिलकर बड़े पैमाने पर इस प्रोपगंडा से निपटने के लिए आतंकवाद विरोधी संवाद (counterspeech) की प्रक्रिया शुरु की जा सकती है.

फेसबुक की ओर से स्वत: किए जा रहे प्रयास: तकनीक और मानवीय विशेषज्ञता

आतंकवाद से निपटने के लिए आर्टिफिशियल इंटेलिजेंस (AI) का इस्तेमाल किसी स्विच की तरह नहीं है, जिसे चालू करते ही पूरी व्यवस्था बदल जाए. आप किस तरह की तकनीक का इस्तेमाल कर रहे हैं इस आधार पर अलग-अलग डेटाबेस चुनकर मशीन यानी तकनीकी सिस्टम को प्रशिक्षित करना होता है, या फिर इंसानी मदद से कोड के ज़रिए इस डेटा को मशीन के इस्तेमाल और प्रशिक्षण के लिए लगाया जाता है. किसी एक आतंकवादी संगठन की प्रचार सामग्री को खंगालने और खोजने के लिए बनाई गई या लागू की प्रणाली, ज़रूरी नहीं कि दूसरे आतंकवादी संगठन पर काम करे, क्योंकि उनके प्रचार में भाषा और शैलीगत अंतर हो सकता है, जिसके चलते एक कोड का दूसरे संगठन पर काम करना ज़रूरी नहीं है. हालांकि, आतंकवाद और घृणा से जुड़ी सामग्री के प्रसार को रोकने के लिए आर्टिफिशियल इंटेलिजेंस और अन्य तरह की ऑटोमेशन तकनीक के इस्तेमाल ने अब तक कई सकारात्मक नतीजे दिखाए हैं. जैसा कि हमारी हाल ही की सामुदायिक मानक प्रवर्तन रिपोर्ट (Community Standards Enforcement Report) में सामने आया है कि 2020 के पहले तीन महीनों में ही पेसबुक ने 99 प्रतिशत सटीकता के साथ, 6.3 मिलियन की संख्या में मौजूद आतंकवाद और चरमपंथ संबंधी सामग्री को खुद ही हटाने में सफलता पाई. [1]

यह मुख्य रूप से हमारी तकनीक में सुधार से प्रेरित था. इन प्रयासों के ज़रिए हम संभावित उल्लंघन का पता लगाने और इंसानी हस्तक्षेप के ज़रिए इस तरह के दूसरे मामलों की समीक्षा करने में क़ामयाब हुए. अक्सर हम इस सामग्री को किसी के देखने से पहले यानी जिस वक्त उसे अपलोड किया जा रहा है उस वक्त ही रोकने में क़ामयाब हो जाते हैं. यह संख्या और कोशिशें अपने आप में महत्वपूर्ण हैं, लेकिन आतंकवाद और हिंसक चरमपंथ को रोकने का कोई एक उपकरण या कोई एक तकनीकी तोड़ (algorithm) मौजूद नहीं है. इसके बजाय, हम अलग-अलग तरीकों और तकनीकों का इस्तेमाल कर इन प्लेटफ़ॉर्म पर डाली जा रही ख़तरनाक सामग्री से जुड़े विभिन्न पहलुओं को संबोधित करते हैं. ये तकनीकें और आर्टिफिशियल इंटेलिजेंस से जुड़े कुछ उपाय, जिनके ज़रिए हम आतंकवाद और हिंसक चरमपंथ पर लगाम कसने की कोशिश कर रहे हैं, निम्न हैं:

  • तस्वीर और वीडियो का मिलान: कोई भी व्यक्ति जब आतंकवाद से जुड़ी कोई फोटो या वीडियो अपलोड करने का प्रयास करता है, तो अपने सिस्टम में मौजूद पुराने डेटा और इंटरनेट के ज़रिए हम इस बात की पड़ताल करते हैं कि यह तस्वीर या वीडियो क्या किसी जानी-पहचानी आतंकवादी गतिविधि या व्यक्ति से मेल खाती है. इसका मतलब यह है कि यदि हमने पहले आईएसआईएस (ISIS) से जुड़ा कोई प्रचार वीडियो हटाया था, तो ऐसे में दूसरे खातों द्वारा यह वीडियो डाले जाने पर हम उन्हें रोक सकते हैं. इसका मतलब यह भी है कि कई मामलों में, फेसबुक पर फैलाने के लक्ष्य से डाली जा रही आतंकवादी सामग्री को हम पाठकों या दर्शकों तक पहुंचने से पहले ही चिन्हित कर लेते हैं और उसे रोक लेते हैं.
  • भाषा की समझ: हमने आर्टिफिशियल इंटेलिजेंस के ज़रिए, लिखित शब्दों (text) और ऐसी सामग्री को पहचानने की कोशिश की है, जो आतंकवाद से जुड़ी हो या उसकी वकालत करती हो. यह भाषा से जुड़ी तकनीकें होती हैं और अक्सर व्यापक समूहों द्वारा डाली जा रही सामग्री के विश्लेषण के ज़रिए काम करती हैं.
  • आतंकवादी समूहों को हटाना: आतंकवादियों और आतंकवादी गतिविधियों के अध्ययन के ज़रिए हम यह जानते हैं कि वे समूहों में रहते और काम करते हैं. [2] [3] ऑफ़लाइन दिखने वाली यह प्रवृत्ति ऑनलाइन भी परिलक्षित होती है. इसलिए, जब हम आतंकवाद का समर्थन करने वाले पृष्ठों, समूहों, पोस्ट या प्रोफाइल की पहचान करते हैं, तो हम संबंधित सामग्री की पहचान करने के लिए कोड और एल्गोरिदम का उपयोग कर उसके पूरे नेटवर्क या जाल का पता लगाने की कोशिश करते हैं. इसे “फैन आउट” की अवधारणा के रूप में जाना जाता है. इसके लिए हम इस तरह के संकेतों का उपयोग करते हैं जो बता सकें कि क्या कोई एकाउंट बड़ी संख्या में उन खातों से जुड़ा है, जिन्हें आतंकवाद संबंधी गतिविधियों या सामग्री के लिए प्रतिबंधित किया गया है, या फिर कोई खाता वही विशेषताएं और जानकारी रखता हो, जो प्रतिबंधित एकाउंट में पाई गई थीं.
  • पुनरावृत्ति: अब हम उन लोगों की पहचान करने और उन्हें रोकने में भी काफ़ी तेज़ हो गए हैं जो अपराध को दोहरा रहे हैं, यानी जिन लोगों को पहले भी किसी तरह के उल्लंघन के लिए फेसबुक से प्रतिबंधित किया जा चुका है. इस काम के ज़रिए, हम बड़ी संख्या में और बड़ी तेज़ी के साथ उन लोगों को रोकने में सक्षम हो गए हैं, जो आतंकवादी सामग्री की पुनरावर्ती कर नए खातों के ज़रिए फेसबुक पर अधिक से अधिक हिंसक सामग्री फैलाने की कोशिश करते हैं. हालांकि, इस मायने में हमें यह ध्यान रखना होगा कि यह एक लंबी लड़ाई है और यह काम हमारे लिए कभी ख़त्म नहीं होता, क्योंकि यह लगातार बनाए जा रहे इन खातों को ढूंढने और उन पर रोक लगाने से जुड़ा है. इसके साथ ही आतंकवादी लगातार अपने तरीकों को बदल रहे हैं और नए तरीके विकसित कर रहे हैं. ऐसे में हम उन नए से नए तरीकों की पहचान भी करते हैं, जिनके ज़रिए आतंकवादी हमारे सिस्टम को भेदने की कोशिश करते हैं या अपनी रणनीति में बदलाव लाते हैं.

आतंकवाद के खिलाफ आर्टिफिशियल इंटेलिजेंस का उपयोग लगातार सफल नतीजे दिखा रहा है, लेकिन अंततः इसे प्रशिक्षित विशेषज्ञों के सीधे हस्तक्षेप और समीक्षा के बल पर ही लागू किया जा सकता है. ऐसे में हम कंपनी के अंदर और बाहर ऐसे लोगों और विशेषज्ञों के साथ साझेदारी करते हैं, जो इंटरनेट पर चरमपंथ को रोकने और इस समस्या को संबोधित करने में हमारी मदद कर सकते हैं.

‘डिजिटल फिंगर प्रिंट’ के इस डेटाबेस को तकनीकी भाषा में ‘यूनीक हैशेज़’ कहा जाता है जिसे एक सम्मिलित फिंगर-प्रिंट डेटाबेस के रूप में समझा जा सकता है. इस साझा डेटाबेस का मकसद है सभी सदस्य प्रौद्योगिकी कंपनियों को अपने संबंधित माध्यमों पर संभावित आतंकवादी सामग्री की जल्द से जल्द पहचान में सक्षम बनाना

ऑटोमेशन तकनीक और आर्टिफिशियल इंटेलिजेंस के ज़रिए, जहां हमारी नीतियों और दिशा-निर्देशों का उल्लंघन करने वाली बहुत सी सामग्री को सीधे और स्वत: रूप से हटाया जा सकता है, वहीं तकनीक किसी भी रूप में मानव समीक्षा और कार्यकुशल विशेषज्ञ टीम से बेहतर काम नहीं कर सकती. यही वजह है कि इन तकनीकों का इस्तेमाल, बड़ी मात्रा में इस तरह की सामग्री की जांच-पड़ताल या छंटाई करने के लिए भी किया जाता है. कुलमिलकार अधिक तकनीक का प्रयोग या तकनीकी समाधानों का मतलब कम मानवीय भागीदारी नहीं है. बल्कि अक्सर इसका उलटा होता है. भाषा की बारीक समझ रखने, नए रुझानों का पता लगाने और सामग्री की समीक्षा करने के लिए लगातार इंसानी हस्तक्षेप और विशेषज्ञता की आवश्यकता होती है, ताकि सटीक और सही रूप से उस सामग्री का पता लगाया जा सके, जो वाकई हमारी नीतियों और दिशा-निर्देशों का उल्लंघन कर रही हो. अलग-अलग उद्योगों के बढ़ते सहयोग के साथ, हम आंतरिक विशेषज्ञों के ज़रिए अपनी क्षमता को भी बढ़ा रहे हैं. इसमें भाषाविद और भाषाविज्ञानियों, अलग-अलग विषयों के विशेषज्ञों, शिक्षाविद, कानून को लागू करने से जुड़े पेशेवरों और पूर्व खुफिया विश्लेषकों को अपनी व्यवस्था में शामिल करने जैसी कार्रवाई निहित है. अब हमारे पास 350 ऐसे लोग हैं, जो ख़तरनाक संगठनों की पहचान से जुड़ी हमारी टीम का स्थाई हिस्सा हैं. इस टीम की काम है, दिशा-निर्देशों व नीतियों, इंजीनियरिंग, संचालन, जांच-पड़ताल और जोखिम जैसे विषयों पर लगातार काम करना और इन मसलों पर तुरंत कार्रवाई करना. संगठित और केंद्रित ढंग से इस विषय पर काम करने वाले इन लोगों के अलावा दुनिया भर में हमारी ‘बचाव और सुरक्षा’ टीमें भी मौजूद हैं, जिनमें शामिल 35,000 से अधिक लोग, अनुवाद से लेकर इन मामलों पर कार्रवाई तक, हर चीज़ में सहायता करते हैं. इन टीमों के पास दुनिया भर के आतंकवादी संगठनों और समूहों की बारीक समझ और उनकी पहचान का हुनर है. अपनी क्षेत्रीय समझ और संबंधित विषयों की जानकारी के ज़रिए वो कंपनी के बाहर मौजूद विशेषज्ञों के साथ मज़बूत संबंध बनाने में हमारी मदद भी करते हैं. ये लोग क्षेत्रीय रुझानों और प्रतिकूल परिस्थितियों को पहचानने में सक्षम हैं, और हमें इस बात के संकेत दे सकते हैं कि आतंकवादी समूह किन नए रूपों और कारणों के लिए इंटरनेट का उपयोग करने की कोशिश कर रहे हैं.

फेसबुक के बढ़ते प्रयासों के बावजूद, हम जानते हैं कि आतंकवाद और हिंसक चरमपंथ का प्रभावी ढंग से मुक़ाबला करने की रणनीति पर हमें लगातार काम करना होगा. हम यह भी जानते हैं कि इस समस्या से किसी भी रुप में अकेले नहीं निपटा जा सकता. अपनी प्रकृति में यह ख़तरा अलग-अलग माध्यमों और देशों तक फैला है और यही कारण है कि अन्य प्रौद्योगिकी कंपनियों और दूसरे क्षेत्रों से लोगों के साथ भागीदारी हमेशा महत्वपूर्ण रहेगी.

आतंकवाद के विरोध के लिए एक वैश्विक इंटरनेट फ़ोरम

आतंकवाद और ख़तरनाक संगठन विरोधी नीतियों के ख़िलाफ़ काम करने वाली फेसबुक की हमारी टीम सीधे तौर पर लोक-नीति, इंजीनियरिंग और प्रोग्राम टीमों के साथ काम करती है, ताकि यह सुनिश्चित हो सके कि हमारा दृष्टिकोण वैश्विक है, और अंतरराष्ट्रीय परिस्थितियों के अनुरूप है. आतंकवाद से लड़ाई के परिप्रेक्ष्य में हमारे लिए सबसे महत्वपूर्ण साझेदारी रही है, ग्लोबल इंटरनेट फ़ोरम टू काउंटर टेररिज़्म यानी जीआईएफसीटी (GIFCT) का गठन[4]. साल 2017 की गर्मियों में, फेसबुक, माइक्रोसॉफ्ट, ट्विटर और यूट्यूब जैसी प्रौद्योगिकी कंपनियों ने मिलकर एक ऐसे वैश्विक मंच की स्थापना की, जो आतंकवाद के ख़िलाफ़ लड़ाई में प्रौद्योगिकी और इंटरनेट कंपनियों को साथ लाए और उनके मिलेजुले प्रयासों को संभव बनाए. तब से अब तक यह संगठन लगातार बढ़ रहा है और ऐसी कई कंपनियां इसमें शामिल हुई हैं, जो आतंकवाद और हिंसक चरमपंथ के प्रसार को रोकने के काम में जुटी हैं. इन कंपनियों और इस संगठन का काम है, चरमपंथियों द्वारा इंटरनेट और डिजिटल माध्यमों का इस्तेमाल कर आतंकवाद को बढ़ावा देने और चरमपंथियों की इन क्षमताओं को बाधित करना. नई से नई तकनीक, साझा प्रयासों और इनोवेशन के ज़रिए यह कंपनियां चरमपंथियों को अपने काम का प्रसार करने, अपनी गतिविधियों का प्रचार करने, अपने बारे में प्रोपगंडा करने और हिंसा का महिमामंडन करने से रोकती हैं.

आतंकवाद और चरमपंथी विचारधारा के ख़िलाफ़ लड़ाई के ऑनलाइन संस्करण में सबसे अधिक ध्यान अक्सर उन प्रयासों पर होता है जिनके ज़रिए आतंकवादी और हिंसक सामग्री को इंटरनेट माध्यमों से हटाया जा सके

अपनी शुरुआत के साथ ही जीआईएफसीटी से जुड़ी कंपनियों ने एक साझा डेटाबेस के ज़रिए 300,000 से अधिक ‘डिजिटल फिंगर प्रिंट’ जोड़े हैं, जो इंटरनेट पर मौजूद आतंकवादियों की तस्वीरें, आतंकी घटनाओं से जुड़े चित्र व वीडियो सामग्री का डिजिटल लेखा-जोखा प्रस्तुत करते हैं. ‘डिजिटल फिंगर प्रिंट’ के इस डेटाबेस को तकनीकी भाषा में ‘यूनीक हैशेज़’ कहा जाता है जिसे एक सम्मिलित फिंगर-प्रिंट डेटाबेस के रूप में समझा जा सकता है. इस साझा डेटाबेस का मकसद है सभी सदस्य प्रौद्योगिकी कंपनियों को अपने संबंधित माध्यमों पर संभावित आतंकवादी सामग्री की जल्द से जल्द पहचान में सक्षम बनाना, ताकि वो इन पर जल्द कार्रवाई कर सकें. प्रौद्योगिकी कंपनियों के संगठन के रूप में एक साथ काम करके हमने इस समस्या से जुड़े कई क्षेत्रों में तेज़ी से प्रगति की है, लेकिन इसके अलावा हम सरकारों, नागरिक समाज का नेतृत्व करने वाले लोगों और शिक्षाविदों के साथ भी साझेदारी करते हैं, क्योंकि ये लोग आतंकवाद के ख़िलाफ़ लड़ाई के हमारे लक्ष्य को साझा करते हैं. उदाहरण के लिए, ‘आतंकवाद के ख़िलाफ़ प्रौद्योगिकी (Tech Against Terrorism)[5] जो संयुक्त राष्ट्र द्वारा बनाई गई आतंकवाद विरोधी समिति के कार्यकारी निदेशालय द्वारा मान्यता प्राप्त एनजीओ है, के साथ काम करते हुए हमारे संगठन जीआईएफसीटी ने दुनिया भर में 140 से अधिक प्रौद्योगिकी कंपनियों, 40 से अधिक गैर सरकारी संगठनों और 15 सरकारी निकायों को कार्यशालाओं के ज़रिए एक मंच पर लाने का काम किया है. साल 2019 में हमने अमेरिका, जॉर्डन, भारत और यूके में इस तरह की चार कार्यशालाएं आयोजित कीं- जिसमें आतंकवादी और हिंसक चरमपंथी गतिविधियों को लेकर सामने आ रहे नए रुझानों पर ऑनलाइन चर्चा हुई और उस पर अध्ययन किया गया.

भारत में विशेषज्ञों के साथ काम करते हुए, एक बहु-क्षेत्रीय वातावरण में अलग-अलग संस्थाओं को सहयोग करना जीआईएफसीटी की प्रगति के लिए महत्वपूर्ण रहा है. नवंबर 2019 में, जीआईएफसीटी ने भारत में अपनी पहली कार्यशाला आयोजित की. इस कार्यक्रम ने भारत, अफ़ग़ानिस्तान, श्रीलंका और बांग्लादेश के 85 प्रमुख विशेषज्ञों को एक मंच प्रदान किया. अपने-अपने क्षेत्रों में ये लोग आगे बढ़कर आतंकवाद, आतंकवाद-विरोधी रणनीतियों, और स्थानीय स्तर पर आतंकी गतिविधियों और विचारधारा के ख़िलाफ़ काम कर रहे हैं. दक्षिण एशियाई क्षेत्र में आतंकवाद के मुद्दों पर शोध और अनुसंधान को बढ़ावा देने का महत्व समझते हुए, ऑब्ज़र्वर रिसर्च फ़ाउंडेशन (Observer Research Foundation), ओआरएफ़ को 2019 में जीआईएफसीटी के आतंकवाद और प्रौद्योगिकी संबंधित वैश्विक अनुसंधान नेटवर्क में भाग लेने के लिए आमंत्रित किया गया. इसके साथ ही यह संस्था अब चरमपंथ और प्रौद्योगिकी के मसले पर एक वैश्विक नेटवर्क की सदस्य है [6] [7]. जीआईएफसीटी में शामिल हुआ ओआरएफ़ का अध्ययन इस बात की पड़ताल करता है कि जम्मू-कश्मीर के परिप्रेक्ष्य में, सरकार और सोशल मीडिया कंपनियां क्या कुछ कर सकती हैं, और प्रौद्योगिकी और आतंकवाद के बीच हो रहे गठजोड़ को रोकने की दिशा में क्या किया जा सकता है [8].

जीआईएफसीटी, वास्तविक दुनिया के उन ख़तरों का जवाब देने के लिए भी आगे बढ़ रहा है जो ऑनलाइन क्षेत्र में अपना प्रभाव दिखा रहे हैं. साल 2019 में 15 मार्च को न्यूज़ीलैंड के क्राइस्टचर्च में हुए भयावह आतंकवादी हमले को सही ठहराने और इसका महिमामंडन करने के लिए सोशल मीडिया का दुरुपयोग किया गया. इस घटना ने सोशल मीडिया पर हिंसक चरमपंथी सामग्री के प्रसार के अलावा, सोशल मीडिया के सीधे इस्तेमाल को लेकर कई सवाल पैदा किए. इसके बाद बड़े पैमाने पर उन कोशिशों की ज़रूरत महसूस की गई जो इंटरनेट पर आतंकवाद के प्रसार को रोकने के लिए ज़रूरी हैं. मई 2019 में फेसबुक और जीआईएफसीटी की संस्थापक कंपनियों ने ‘क्राइस्टचर्च कॉल टू एक्शन’ (Christchurch Call to Action) [9] पर हस्ताक्षर किए, जिसके तहत जीआईएफसीटी कंपनियों ने मानवाधिकारों और अभिव्यक्ति की स्वतंत्रता का सम्मान करते हुए, आतंकवादियों द्वारा इंटरनेट के गलत इस्तेमाल को रोकने के लिए, एक नौ सूत्री योजना को लागू किए जाने के लिए सहमति जताई [10]. इस योजना के एक घटक के रूप में, जीआईएफसीटी ने उभरती हुई या सक्रिय आतंकवादी और चरमपंथी घटनाओं का जवाब देने के लिए कंटेंट इंसिडेंट प्रोटोकॉल (Content Incident Protocol) विकसित किया. इस योजना के तहत इस तरह के किसी हमले के लिए ज़िम्मेदार या उसमें सहायक की भूमिका निभाने वालों द्वारा ऑनलाइन बनाई गई और प्रसारित की गई, संभावित सामग्री का बड़े पैमाने पर आकलन किया जाएगा. क्राइस्टचर्च में हुए हमले के बाद से, जीआईएफसीटी की सदस्य कंपनियों ने यूरोपोल और न्यूजीलैंड सरकार के साथ मिलकर कार्यशालाओं के ज़रिए इस प्रोटोकॉल को विकसित किया है, इसे परिष्कृत किया है और इसके आधार पर कई परीक्षण भी किए हैं.

भारत में, वॉयस+ नाम के प्लेटफॉर्म के ज़रिए पेशेवर, विशेषज्ञ और गैर-सरकारी संगठनों से जुड़े लोग हिंसक चरमपंथ और आतंकवाद से निपटने के अपने अनुभव साझा करते हैं, और यह बताते हैं कि आतंकवाद व हिंसक चरमपंथ से जूझते हुए उन्होंने सकारात्मक बदलाव को किस तरह मुमकिन बनाया है

जीआईएफसीटी की महत्ता, इसकी क्षमताओं और इसके विस्तार को देखते हुए, संयुक्त राष्ट्र महासभा में 23 सितंबर 2019 को घोषणा की गई कि जीआईएफसीटी को एक स्वतंत्र एनजीओ [11] में परिवर्तित किया जाएगा. इसके बाद जून में, इस एनजीओ के पहले कार्यकारी निदेशक के रूप में निकोलस जे रैसमसन का नाम घोषित किया गया. रैसमसन, अमेरिका के राष्ट्रीय आतंकवाद निरोधी केंद्र के पूर्व निदेशक हैं और उनके साथ काम करने के लिए एक बहु-क्षेत्रीय अंतरराष्ट्रीय स्वतंत्र सलाहकार समिति (IAC) बनाए जाने की भी घोषणा की गई. आईएसी का गठन जीआईएफसीटी की सलाहकार समिति के रूप में किया गया है जो जीआईएफसीटी की प्राथमिकताओं को लेकर उसे सलाह देगी, उसके कामकाज और प्रदर्शन का आकलन करेगी और जीआईएफसीटी को रणनीतिक विशेषज्ञता प्रदान करेगी. आईएसी का गठन, सात सरकारों, दो अंतरराष्ट्रीय संगठनों और नागरिक समाज का नेतृत्व करने वाले 12 प्रतिनिधियों से मिलाकर किया गया है. इन प्रतिनिधियों में आतंकवाद का मुकाबला करने वाले और हिंसक चरमपंथ के विशेषज्ञों के अलावा डिजिटल माध्यमों के जानकार, स्वतंत्र अभिव्यक्ति और मानवाधिकार के अधिवक्ता, शिक्षाविद और अन्य लोग भी शामिल हैं.

आतंकवाद विरोधी संवाद (Counterspeech)

आतंकवाद और चरमपंथी विचारधारा के ख़िलाफ़ लड़ाई के ऑनलाइन संस्करण में सबसे अधिक ध्यान अक्सर उन प्रयासों पर होता है जिनके ज़रिए आतंकवादी और हिंसक सामग्री को इंटरनेट माध्यमों से हटाया जा सके. हालांकि, इस सामग्री को हटाने भर से, केवल कट्टरपंथ के लक्षण ही कम होंगे. इसके मूल कारणों से निजात पाने के लिए यह बेहद कारगर तरीका नहीं है. मज़बूत नीतियों और इन्हें लागू करने के सटीक तरीकों के अलावा, यह ज़रूरी है कि सामुदायिक आवाज़ों को सशक्त बनाया जाए और आतंकवाद विरोधी संवाद क़ायम करने के लिए उनका इस्तेमाल किया. आम लोगों के बीच लोकप्रिय इन सामुदायिक आवाज़ों का इस मुद्दे पर आगे आने मूल्यवान साबित होगा. फेसबुक पर मौजूद हमारी ऑनलाइन कम्यूनिटी, चरमपंथी विचारधारा के जवाब में उदारवादी आवाज़ें उठाने का काम करती है. हमारे मंच का उपयोग कर वो हिंसक प्रवृत्तियों के ख़िलाफ़ लोगों को जागरुक करते हैं. एक तकनीकी कंपनी के रूप में यह हमारी भूमिका और ज़िम्मेदारी है कि हम उन आवाजों को उकसाने और उन्हें बढ़ावा देने का काम करें जो रणनीतिक रूप से चरमपंथ और घृणा फैलाने वाले भाषणों का मुक़ाबला कर रही हैं.

इंटरनेट पर फैले और फैलते चरमपंथ को रोकने का केवल एक ही उपाय है और वो है, नीति निर्धारकों, नागरिक समाज के संगठनों, शिक्षाविदों और कॉरपोरेट कंपनियों के बीच एक मज़बूत साझेदारी, ताकि हम विशेषज्ञों के साथ मिलकर काम कर सकें और आतंकवाद के खिलाफ़ जवाबी कार्रवाई के रुप में की जा रही कोशिशों का ज़ोर-शोर से समर्थन कर सकें. इसमें वो शोध और अनुसंधान भी शामिल हैं जो आतंकवाद को बेहतर ढंग से समझने और आतंकवाद से निपटने के कौन से तरीके सबसे कारगर हैं, इनकी पड़ताल पर केंद्रित हों. इसके अलावा गैर सरकारी संगठनों को आतंकवाद विरोधी संवाद के बारे में प्रशिक्षण देना और ज़मीन से जुड़े उन लोगों की आवाज़ को बढ़ाने में मदद करना भी इस कोशिश में शामिल है, जो छोटे स्तर पर प्रभावी काम कर रहे हों.

उदाहरण के लिए, भारत में, वॉयस+ नाम के प्लेटफॉर्म के ज़रिए पेशेवर, विशेषज्ञ और गैर-सरकारी संगठनों से जुड़े लोग हिंसक चरमपंथ और आतंकवाद से निपटने के अपने अनुभव साझा करते हैं, और यह बताते हैं कि आतंकवाद व हिंसक चरमपंथ से जूझते हुए उन्होंने सकारात्मक बदलाव को किस तरह मुमकिन बनाया है [12]. भारत में 100 से भी ज़्यादा ज़मीनी स्तर के संगठनों, नागरिक समाज से जुड़े लोगों, शांति के मुद्दे पर काम करने वाले लोगों, युवा कार्यकर्ताओं और पत्रकारों ने भारत भर में वॉयस+ के संवाद कार्यक्रमों में भाग लिया. इसके अलावा, भारतभर में पांच शहरों में वॉयस+ के काउंटरस्पीच लैब्स (आतंकवाद से लड़ने के लिए ज़रूरी संवाद प्रक्रिया को स्थापित करने वाले लैब) स्थापित किए गए. इसके तहत 500 से अधिक विश्वविद्यालयी छात्रों, नीति निर्माताओं और विशेषज्ञों को फोटोग्राफी, कहानी जैसी विधाओं, हास्य व व्यंग्य और डिजिटल वीडियो में प्रशिक्षित कर उन्हें चरमपंथी सामग्री और प्रोपगंडा से मुकाबला करने के लिए तैयार किया गया. लगातार तीन साल से, फेसबुक भारत के प्रमुख प्रकाशनों में से एक, द इंडियन एक्सप्रेस के साथ भागीदारी में, ‘स्टोरीज ऑफ स्ट्रेंथ’ नाम का अभियान चला रहा है [13]. इस साझेदारी के माध्यम से, फेसबुक आतंक और हिंसक चरमपंथ के ख़िलाफ़ सामुदायिक कोशिशों पर बातचीत करने और उन लोगों की कहानियों को उजागर करने का प्रयास करता है, जिन्होंने इस दिशा में मारक काम किया हो.

मार्च 2020 में, फेसबुक ने एशिया प्रशांत और दक्षिण पूर्व एशिया में एक रिज़िलिएंसी इनिशिएटिव भी लॉन्च किया, जिसका मक़सद था, ज़मीनी स्तर के ऐसे संगठनों के साथ जुड़ना जो अल्पसंख्यक और हाशिए पर रहने वाले समुदायों के लिए काम करते हैं. कोविड19 की महामारी के कारण यात्राओं पर लगे प्रतिबंध के बावजूद हमने नए से नए तरीके खोजकर इन संगठनों के साथ संपर्क साधा और सोशल मीडिया पर इनकी पहुंच में सुधार लाने के लिए इन्हें प्रशिक्षित कर, इनकी मदद की. तीन महीनों में, हम नौ देशों के 40 संगठनों के 140 से अधिक कार्यकर्ताओं तक पहुंचे. प्रतिभागियों के लिए कई मुफ्त वर्कशॉप की गईं जिनके ज़रिए उन्हें उन रणनीतियों और टूल्स के बारे में बताया जा सके जो उनके समुदाय के पुनरुत्थान के लिए ज़रूरी रचनात्मक सामग्री बनाने में मददगार हो. साथ ही उन्हें इस सामग्री को ज़्यादा से ज़्यादा लोगों तक पहुंचाने का प्रशिक्षण भी दिया गया. इसके अलावा, उन लोगों ने जो सामग्री बनाई हमने उसका विश्लेषण किया और उनके साथ अपने सुझाव और प्रतिक्रियाएं साझा कीं, ताकि वो और बेहतर काम कर सकें. हम संयुक्त राष्ट्र विकास कार्यक्रम (UNDP) के एक्सट्रीम लाइव्स प्रोग्राम की भी सक्रिय रूप से मदद करते हैं, जो अब अपने तीसरे साल में है, और चरमपंथ से जुड़े वास्तविक जीवन के अनुभवों पर चर्चा करता है [14].

भविष्य

आतंकवाद और हिंसक चरमपंथ कई राष्ट्रों से जुड़ा मसला है. इसमें क्षेत्रीय बारीकियों, वास्तविक दुनिया की जटिलता और ऑनलाइन माध्यमों का फायदा उठाने की कोशिशों जैसी समस्याएं शामिल हैं. ये कई माध्यमों पर एक साथ और अलग-अलग माध्यमों पर अलग तरह से मौजूद है, और लगातार विकसित हो रहा है. इस मायने में आतंकवाद और उग्रवाद का मुक़ाबला करने वाले प्रयासों को भी लगातार बदलना होगा ताकि प्रतिकूल परिस्थितियों और ख़तरों को समझा जा सके और प्रभावी रूप से उनके ख़िलाफ़ काम किया जा सके. यह तभी संभव है जब- प्रौद्योगिकी, सरकार, नागरिक समाज, शिक्षा से जुड़े क्षेत्र एक साथ काम करने के लिए आगे आएं और यह जानें कि इस समस्या से निपटने में उनकी अपनी क्या भूमिका हो सकती है. अपनी विशेषज्ञता को संयोजित कर और अपने प्रयासों को सम्मिलित करके ही हम इस दिशा में गहरा प्रभाव पैदा कर सकते हैं.

Endnotes

[1] “Dangerous Organizations”, Facebook Community Standards Enforcement Report, Facebook.

[2] Johannes Baldauf, Julia Ebner and Jacob Guhi, “Hate Speech and Radicalisation Online: The OCCI Research Report”, ISD Global, June 2019.

[3] Erin Saltman, “How Young People Join Violent Extremist Groups – And How to Stop Them”, TED Talks, June 2016.

[4] Global Internet Forum to Counter Terrorism.

[5] Tech Against Terrorism.

[6] “Global Research Network on Terrorism and Technology (GRNTT)”, RUSI.

[7] Global Network on Extremism and Technology (GNET).

[8] Kabir Taneja and Kriti M Shah, “The Conflict in Jammu and Kashmir and the Convergence of Technology and Terrorism”, Global Research Network on Terrorism and Technology,  August 7 2019.

[9] “Christchurch Call to Eliminate Terrorism and Violent Extremist Content Online”.

[10] “Actions to Address the Abuse of Technology to Spread Terrorist and Violent Extremist Content”, Global Internet Forum to Counter Terrorism, May 15, 2019.

[11] “Next Steps for GIFCT”, Global Internet Forum to Counter Terrorism, September 23 2019.

[12] “Voice+”, Counterspeech Initiatives at Facebook.

[13] “Stories of Strength”, Indian Express.

[14] “Extreme Lives”, UNDP.

The views expressed above belong to the author(s). ORF research and analyses now available on Telegram! Click here to access our curated content — blogs, longforms and interviews.