रिसर्च से पता चलता है कि ऑनलाइन आइडेंटिटी वेरिफिकेशन की प्रक्रिया, जो वित्तीय सेक्टर में लेन-देन की लागत को कम करने में एक लंबी दूरी तय कर चुकी है, में डीपफेक भरोसा कमज़ोर कर सकता है.
डीपफेक ने मुख्य रूप से पहचान बदलने, प्रतिष्ठा को नुकसान और गलत जानकारी एवं दुष्प्रचार के लिए सुर्खियां बटोरी हैं. विश्व आर्थिक मंच डीपफेक को इस समय दुनिया के सामने मौजूद सबसे महत्वपूर्ण अल्पकालिक ख़तरे के रूप में समझता है. वास्तव में ऑनलाइन उपलब्ध 96 प्रतिशत डीपफेक कंटेंट मशहूर महिला हस्तियों की बिना सहमति वाली पॉर्नोग्राफिक तस्वीरें हैं. जैसे-जैसे दुनिया भर के देश डीपफेक कंटेंट में बढ़ोतरी से जूझ रहे हैं, 2018 से इसमें लगभग 100 प्रतिशत की वृद्धि हुई है, वैसे-वैसे एक और ख़तरा है जो पृष्ठभूमि में छिपा हुआ है यानी डीपफेक और बैंक एवं वित्तीय संस्थानों के द्वारा अपने ग्राहकों की पहचान की सत्यता (आइडेंटिटी वेरिफिकेशन) के लिए की जाने वाली ऑनलाइन नो योर कस्टमर (KYC) कम्प्लाएंस (अनुपालन) की प्रक्रिया की कमज़ोरी.
डीपफेक ने मुख्य रूप से पहचान बदलने, प्रतिष्ठा को नुकसान और गलत जानकारी एवं दुष्प्रचार के लिए सुर्खियां बटोरी हैं. विश्व आर्थिक मंच डीपफेक को इस समय दुनिया के सामने मौजूद सबसे महत्वपूर्ण अल्पकालिक ख़तरे के रूप में समझता है.
सुरक्षा कंपनी सेंसिटी (Sensity) ने 10 बड़े वेंडर के ऑनलाइन आइडेंटिटी वेरिफिकेशन सिस्टम की पेनिट्रेशन टेस्टिंग (कंप्यूटर सिस्टम में कमज़ोरी का पता लगाने के लिए एक टेस्ट) के लिए डीपफेक ऑफेंसिव टूलकिट (DOT) जारी किया और पाया कि उनमें से नौ कंपनियां डीपफेक हमलों के मामले में बेहद असुरक्षित हैं. इसमें वर्चुअल कैमरा इंजेक्शन के लिए कंट्रोलेबल डीपफेक शामिल है जिसके लिए अलग से ट्रेनिंग की ज़रूरत नहीं होती है और इसका इस्तेमाल एक फोटो पर रियल टाइम में किया जा सकता है जो फेशियल इंपरसोनेशन (धोखाधड़ी) के लिए निशाना बन जाता है. DOT ID इमेज में हेर-फेर करने और वित्तीय संस्थानों के लिए रेगुलेटर (नियामक) के द्वारा आवश्यक सुरक्षा प्रोटोकॉल को चकमा देने में सफल था. सेंसिटी ने टारगेट के चेहरे के साथ स्कैन किए जाने वाले ID कार्ड में हेरफेर करने के लिए डीपफेक का इस्तेमाल किया और फिर उसी चेहरे का उपयोग वेंडर के लाइवनेस टेस्ट को पास करने के लिए वीडियो स्ट्रीम में किया. लाइवनेस टेस्ट में आम तौर पर लोगों को कैमरे की ओर देखने, पलक झपकाने, अपना सिर घुमाने या मुस्कुराने के लिए कहा जाता है ताकि ये साबित किया जा सके कि वो एक वास्तविक व्यक्ति है और उसकी तुलना पेश पहचान पत्र से की जा सके. दूसरे अध्ययनों से पता चला है कि कैसे डीपफेक लगभग 78 प्रतिशत की सफलता दर के साथ माइक्रोसॉफ्ट और अमेज़न के फेशियल रिकॉग्निशन सिस्टम को चकमा दे सकते हैं.
डीपफेक डीप लर्निंग, ऑटोएनकोडर और आर्टिफिशियल न्यूरल नेटवर्क पर भरोसा करते हैं और GAN (जेनरेटिव एडवर्सेरियल नेटवर्क) जैसी बुनियादी तकनीकों में विकास के साथ उनमें तेज़ी आई है. GAN को सबसे पहले 2014 में इयान गुडफेलो और उनके सहकर्मियों ने विकसित किया था और इसमें दो प्रतिस्पर्धी न्यूरल नेटवर्क शामिल हैं जिसमें से पहले नेटवर्क में तैयार होने वाले कंटेंट का प्रतिनिधित्व करने वाला डेटा भरा जाता है. पहला नेटवर्क डेटा से सीखता है और ओरिजिनल डेटा के समान विशेषताओं को दिखाने वाला नया कंटेंट तैयार करता है. ये नया कंटेंट तब दूसरे नेटवर्क के सामने पेश किया जाता है जिसे उन खामियों की पहचान करने के लिए प्रशिक्षित किया जाता है जिन्हें वो ओरिजिनल कंटेंट का प्रतिनिधित्व करते हुए नहीं पाता है. फिर इसे पहले नेटवर्क को लौटा दिया जाता है ताकि वो अपनी गलतियों से सीख सकें और इस तरह खुद सीखने की बार-बार की प्रक्रिया को आगे बढ़ा सके. GAN जटिल मशीन लर्निंग के तरीकों का प्रतिनिधित्व करता है और जैसे-जैसे तकनीक विकसित हुई, वैसे-वैसे वेबसाइट और सॉफ्टवेयर में पैकेज करने की क्षमता भी बढ़ी जहां कोई भी सीमित कंप्यूटर कौशल के साथ आर्टिफिशियल इंटेलिजेंस के द्वारा हेरफेर किया गया सिंथेटिक कंटेंट पैदा कर सकता है.
ई-गवर्नेंस और सार्वजनिक सेवाओं के डिजिटलाइज़ेशन ने डिजिटल तकनीकों के द्वारा सक्षम प्रबंधन के नए रूपों के साथ नागरिकों की पहचान की नीति को बढ़ावा दिया है. e-KYC या इलेक्ट्रॉनिक आइडेंटिटी वेरिफिकेशन ने वित्तीय सेक्टर में लेन-देन की लागत को कम करने में लंबी दूरी तय की है. इसकी वजह से ग्राहकों को आसानी से जोड़ने में मदद मिली है. उदाहरण के तौर पर, भारत में इसने KYC की लागत 700 रुपये से कम करके तीन रुपये कर दी है और लोन प्रोसेस करने की लागत में 75 प्रतिशत की कमी आई है. हालांकि DOT का परीक्षण इस तरह के तरीकों में भरोसा कम करने की क्षमता को उजागर करता है. तकनीक के उपयोग, कार्यान्वयन और अपनाने में भरोसा एक महत्वपूर्ण पहलू है और दो धुरियों में इसकी परिकल्पना की जा सकती है: तकनीकी (सिस्टम की सुरक्षा को बढ़ाने का तकनीकी तरीका) और संस्थागत (जोख़िम प्रबंधन के लिए शासन व्यवस्था का तरीका). इन दो धुरियों के साथ मिलकर काम करने से भरोसे को अमल में लाना एक सापेक्ष प्रक्रिया बन जाता है जो लोगों एवं संस्थाओं के बीच और एक दिए हुए संदर्भ के भीतर होता है. इसमें तीन तरफा संबंध शामिल है. उदाहरण के तौर पर A (भरोसा पैदा करने वाला) B (संरक्षक) पर भरोसा करके C (काम) पूरा करता है. इसके परिणामस्वरूप भरोसा पैदा करने वाले (A) की तरफ से ख़तरा और कमज़ोरी शामिल है. विश्वास के आदर्श स्तर वाले समाज में लेन-देन की कम लागत होती है.
नुकसान के ख़तरे का सामना करने वाले लोगों और संस्थाओं में सिर्फ वो नहीं शामिल हैं जिनकी पहचान को गलत इरादे के लिए धोखा दिया जा रहा है बल्कि रेगुलेटर के सामने वित्तीय संस्थान और जोख़िम के इन उभरते रूपों का पता लगाने की उनकी क्षमता भी.
DOT जैसे सिस्टम और पहचान को धोखा देने की इसकी क्षमता असुरक्षा का परिचय देती है और भरोसे के सापेक्ष संचालन का विस्तार करती है. नुकसान के ख़तरे का सामना करने वाले लोगों और संस्थाओं में सिर्फ वो नहीं शामिल हैं जिनकी पहचान को गलत इरादे के लिए धोखा दिया जा रहा है बल्कि रेगुलेटर के सामने वित्तीय संस्थान और जोख़िम के इन उभरते रूपों का पता लगाने की उनकी क्षमता भी. ये वित्तीय प्रणाली के भीतर एक-दूसरे पर निर्भरता की कई परतों को धक्का देता है और मौजूदा कम्प्लाएंस की संरचना पर फिर से विचार को ज़रूरी बनाता है. असुरक्षा के नए रूपों में ऑनलाइन पहचान सत्यता की प्रणाली में उपभोक्ता के भरोसे को कमज़ोर करने की क्षमता होती है. इस तरह लागू करने और पता लगाने की लेन-देन की क्षमता बढ़ती है. वित्तीय प्रणालियों के भीतर एक प्रस्तावित आवेदक की प्रमाणिकता का पता लगाने की अयोग्यता व्यवस्थात्मक जोख़िम की आशंकाओं को पैदा करती है जो वित्तीय सेवाओं के एक महत्वपूर्ण स्तंभ को कमज़ोर कर सकती है और e-KYC सिस्टम के फायदों को पलट सकती है.
DOT जैसे उभरते हमले के परिदृश्यों का पहले से पता लगाने और उन्हें कम करने में तकनीकी और संस्थागत विश्वास के लिए क्षमता विकसित करना शामिल है. ISO/IEC 30107-3, प्रेज़ेंटेशन अटैक डिटेक्शन (PAD) स्टैंडर्ड में कवर किए गए हमलों में से एक के रूप में डीपफेक शामिल नहीं है. PAD सिस्टम के द्वारा उपयोग की गई तकनीकों जैसे कि 3-D मोशन डिटेक्शन और टेक्सचर एनेलिसिस उन डीपफेक का पता लगा सकती हैं जो आम तौर पर वीडियो रिप्ले अटैक पर लागू होते हैं. हालांकि ये वर्चुअल कैमरा इंजेक्शन का पता नहीं लगा सकती है जिसमें DOT सक्षम है क्योंकि ये हमले एक से ज़्यादा अटैक वेक्टर पेश करते हैं. आर्टिफिशियल इंटेलिजेंस तकनीक जहां कुछ हद तक डीपफेक के पहलुओं जैसे कि ब्लिंकिंग डिटेक्शन (पलक झपकाने का पता लगाना), ऑक्लुज़न (बाधा) या इमेज फॉरेंसिक का पता लगा सकती है, वहीं वर्चुअल कैमरा इंजेक्शन एक उभरता हुआ और पुख्ता ख़तरा पेश करता है.
डीपफेक के इस्तेमाल को प्रतिष्ठा से जुड़े नुकसान या लोकतंत्र को कमज़ोर करने में अधिक आसानी से पहचाना गया है. दुनिया भर के अधिकार क्षेत्र (ज्यूरिसडिक्शन) प्रतिक्रिया के रूप में डीपफेक के लिए कानून और नियम विकसित करने की दिशा में काम कर रहे हैं.
डीपफेक के इस्तेमाल को प्रतिष्ठा से जुड़े नुकसान या लोकतंत्र को कमज़ोर करने में अधिक आसानी से पहचाना गया है. दुनिया भर के अधिकार क्षेत्र (ज्यूरिसडिक्शन) प्रतिक्रिया के रूप में डीपफेक के लिए कानून और नियम विकसित करने की दिशा में काम कर रहे हैं. लेकिन DOT के स्तर की कार्यक्षमताओं के द्वारा पेश उभरते ख़तरों और किसी ख़ास क्षेत्र में ये कैसे सामने आते हैं, इसको समझना महत्वपूर्ण है. जिन क्षेत्रों में डीपफेक अधिक प्रमुख बन गए हैं, वहां डीपफेक को लेकर जो नियम और कानून हैं, उसी तरह नियामकों और नीति निर्माताओं को किसी ख़ास क्षेत्र की असुरक्षा को दूर करने के लिए संस्थागत क्षमता बढ़ाने की दिशा में काम करने की ज़रूरत है.
अनुलेखा नंदी ऑब्ज़र्वर रिसर्च फाउंडेशन में फेलो हैं.
The views expressed above belong to the author(s). ORF research and analyses now available on Telegram! Click here to access our curated content — blogs, longforms and interviews.
Dr. Anulekha Nandi is a Fellow in Technology, Economy, and Society at ORF. Her primary area of research includes digital innovation management and governance focusing ...
Read More +
PREV
