संशोधनातून असे दिसून आले आहे की डीपफेकमुळे ऑनलाइन ओळख पडताळणी प्रक्रियेवरील विश्वास कमी होऊ शकतो, ज्याने आर्थिक क्षेत्रातील व्यवहार खर्च कमी करण्यात बराच मोठा पल्ला गाठला आहे.
.png)
डीपफेकमुळे प्रामुख्याने ओळख बदलणे, प्रतिष्ठेचे नुकसान आणि चुकीची माहिती यासाठी मथळे बनले आहेत. जागतिक आर्थिक मंच डीपफेकला सध्या जगाला भेडसावणारा सर्वात महत्त्वाचा अल्पकालीन धोका मानतो. खरं तर, ऑनलाइन उपलब्ध असलेल्या डीपफेक सामग्रीपैकी 96 टक्के प्रसिद्ध महिला सेलिब्रिटींच्या संमती नसलेल्या अश्लील प्रतिमा आहेत. जगभरातील देश 2018 पासून सुमारे 100 टक्क्यांनी वाढलेल्या डीपफेक सामग्रीच्या वाढीशी झुंज देत असताना, पार्श्वभूमीत आणखी एक धोका आहे,डीपफेक आणि बँका आणि वित्तीय संस्थांद्वारे त्यांच्या ग्राहकांची ओळख सत्यापित करण्यासाठी वापरल्या जाणाऱ्या ऑनलाइन Know Your Customer (KYC) अनुपालन प्रक्रियेची असुरक्षितता.
सुरक्षा कंपनी सेंसिटीने १० प्रमुख विक्रेत्यांच्या ऑनलाइन ओळख पडताळणी प्रणालींच्या प्रवेश चाचणीसाठी एक डीपफेक ऑफेंसिव टूलकिट (DOT) जारी केले आणि त्यांना आढळले की त्यापैकी नऊजण डीपफेक हल्ल्यांसाठी अत्यंत असुरक्षित आहेत.
सुरक्षा कंपनी सेंसिटीने १० प्रमुख विक्रेत्यांच्या ऑनलाइन ओळख पडताळणी प्रणालींच्या प्रवेश चाचणीसाठी एक डीपफेक ऑफेंसिव टूलकिट (DOT) जारी केले आणि त्यांना आढळले की त्यापैकी नऊजण डीपफेक हल्ल्यांसाठी अत्यंत असुरक्षित आहेत. यामध्ये व्हर्च्युअल कॅमेऱ्यासाठी नियंत्रित करण्यायोग्य डीपफेकचा समावेश आहे ज्यासाठी स्वतंत्र प्रशिक्षणाची आवश्यकता नसते आणि ज्याचा वापर रिअल-टाइममध्ये फोटोवर केला जाऊ शकतो जो चेहऱ्याच्या प्रतिरूपणासाठी लक्ष्य बनतो. DOT आयडी प्रतिमा हाताळण्यात आणि वित्तीय संस्थांसाठी नियामकाला आवश्यक असलेल्या सुरक्षा प्रोटोकॉलला अडथळा आणण्यात यशस्वी ठरला. सेन्सिटीने लक्ष्यित व्यक्तीच्या चेहऱ्यासह स्कॅन केलेले ओळखपत्र हाताळण्यासाठी डीपफेकचा वापर केला आणि नंतर विक्रेत्याच्या जिवंतपणा चाचणीमध्ये उत्तीर्ण होण्यासाठी व्हिडिओ प्रवाहात त्याच चेहऱ्याचा वापर केला. जिवंतपणाची चाचणी सहसा लोकांना ते खरे व्यक्ती आहेत हे सिद्ध करण्यासाठी कॅमेऱ्याकडे पाहण्यास, डोळे मिटण्यास, डोके फिरवण्यास किंवा हसण्यास सांगते आणि त्याची तुलना सादर केलेल्या ओळखपत्राशी केली जाऊ शकते. इतर अभ्यासांनी दाखवून दिले आहे की डीपफेक कशी मायक्रोसॉफ्ट आणि अॅमेझॉनच्या चेहऱ्यावरील ओळख प्रणालीला फसवू शकतात, ज्याचा सफलतेचा दर सुमारे ७८ टक्के आहे.
डीपफेक तंत्रज्ञान हे डीप लर्निंग, ऑटोएन्कोडर्स आणि कृत्रिम न्यूरल नेटवर्कवर अवलंबून असतात आणि GAN (जनरेटिव्ह अॅडव्हर्सेरियल नेटवर्क) सारख्या मूलभूत तंत्रज्ञानातील विकासासह ते अतिशय वेगवान झाले आहेत. GAN प्रथम 2014 मध्ये इयान गुडफेलो आणि त्याच्या सहकाऱ्यांनी विकसित केले होते आणि त्यात दोन प्रतिस्पर्धी न्यूरल नेटवर्क असतात ज्यातून पहिल्या नेटवर्कमध्ये तयार केलेल्या सामग्रीचे प्रतिनिधित्व करणारा डेटा भरला जातो. पहिले नेटवर्क डेटामधून शिकते आणि मूळ डेटासारखीच वैशिष्ट्ये दर्शविणारी नवीन सामग्री तयार करतो. ही नवीन सामग्री नंतर दुसऱ्या नेटवर्कला सादर केली जाते ज्याला मूळ सामग्रीचे प्रतिनिधित्व करताना न सापडलेल्या त्रुटी ओळखण्यासाठी प्रशिक्षित केले जाते. त्यानंतर ते पहिल्या नेटवर्कमध्ये परत केले जाते जेणेकरून ते त्यांच्या चुकांमधून शिकू शकतील आणि अशा प्रकारे स्वतःहून शिकण्याची पुनरावृत्ती प्रक्रिया सुरू ठेवू शकतील. GAN जटिल यंत्र शिक्षण पद्धतींचे प्रतिनिधित्व करते आणि जसजसे तंत्रज्ञान विकसित झाले, तसतशी संकेतस्थळे आणि सॉफ्टवेअरमध्ये पॅकेज करण्याची क्षमता देखील वाढली, जिथे एखादी व्यक्ती मर्यादित संगणक कौशल्यांसह कृत्रिम बुद्धिमत्तेद्वारे हाताळलेली कृत्रिम सामग्री तयार करू शकतो.
विश्वास आणि व्यवहार खर्च
ई-प्रशासन आणि सार्वजनिक सेवांच्या डिजिटलायझेशनने डिजिटल तंत्रज्ञानाद्वारे सक्षम केलेल्या व्यवस्थापनाच्या नवीन प्रकारांसह नागरिकांची ओळख पटविण्याच्या धोरणाला प्रोत्साहन दिले आहे. आर्थिक क्षेत्रातील व्यवहार खर्च कमी करण्यासाठी E-KYC किंवा इलेक्ट्रॉनिक ओळख पडताळणीने खूप मोठा पल्ला गाठला आहे. यामुळे ग्राहकांशी संपर्क साधणे सोपे होते. उदाहरणार्थ, भारतात KYC ची किंमत 700 रुपयांवरून तीन रुपयांपर्यंत कमी झाली आहे आणि कर्ज प्रक्रिया खर्च 75 टक्क्यांनी कमी झाला आहे. तंत्रज्ञानाचा वापर, अंमलबजावणी आणि स्वीकार्यता यामध्ये विश्वास हा एक महत्त्वाचा पैलू आहे आणि त्याची कल्पना दोन घटकांमध्ये केली जाऊ शकतेः एक म्हणजे तांत्रिक (प्रणालीची सुरक्षा वाढविण्यासाठी तांत्रिक मार्ग) आणि संस्थात्मक (जोखीम व्यवस्थापित करण्यासाठी प्रशासकीय मार्ग) या दोन घटकांवर एकत्र काम केल्याने, विश्वास ही एक सापेक्ष प्रक्रिया बनते जी लोक आणि संस्था यांच्यात आणि दिलेल्या संदर्भात घडते. यात त्रिकोणी संबंधांचा समावेश आहे. उदाहरणार्थ एक (आत्मविश्वास निर्माण करणारा) 'दोन’ (संरक्षक)यावर विश्वास ठेवून ‘तीन’ (काम) पूर्ण केले जाते. यामध्ये आत्मविश्वास निर्माण करणाऱ्याच्या बाजूने जोखीम आणि असुरक्षितता समाविष्ट आहे (अ) विश्वासाची आदर्श पातळी असलेल्या समाजात व्यवहाराचा खर्च कमी असतो.
ई-प्रशासन आणि सार्वजनिक सेवांच्या डिजिटलायझेशनने डिजिटल तंत्रज्ञानाद्वारे सक्षम केलेल्या व्यवस्थापनाच्या नवीन प्रकारांसह नागरिकांची ओळख पटविण्याच्या धोरणाला प्रोत्साहन दिले आहे.
DOT सारखी प्रणाली आणि ओळख फसवण्याची त्याची क्षमता असुरक्षितता निर्माण करते आणि विश्वासाच्या सापेक्ष कार्ये वाढवते. यामुळे होणाऱ्या नुकसानीच्य धोक्यात असलेल्या लोकांमध्ये आणि संस्थांमध्ये केवळ त्यांचीच ओळख लपवली जात नाही, तर नियामकांसमोर वित्तीय संस्था आणि या नवीन प्रकारच्या जोखमींचा शोध घेण्याची त्यांची क्षमता यांचा समावेश आहे. यामुळे वित्तीय व्यवस्थेमध्ये परस्परावलंबनाचे अनेक स्तर निर्माण होतात आणि विद्यमान अनुपालन संरचनेकडे पुन्हा पाहणे आवश्यक ठरते. असुरक्षिततेच्या नवीन प्रकारांमध्ये ऑनलाइन ओळख प्रमाणीकरण प्रणालींवरील ग्राहकांचा विश्वास कमी करण्याची क्षमता आहे. अशा प्रकारे व्यवहार अंमलात आणण्याची आणि त्यांचा मागोवा घेण्याची क्षमता वाढते. वित्तीय प्रणालीमध्ये प्रस्तावित अर्जदाराची ओळख पटवण्यात असमर्थता प्रणालीगत जोखमीची भीती निर्माण करते ज्यामुळे वित्तीय सेवांचा एक महत्त्वाचा स्तंभ कमकुवत होऊ शकतो आणि E-KYC प्रणालीचे फायदे उलटू शकतात.
तांत्रिक आणि संस्थात्मक विश्वास वाढवणे.
DOT सारख्या उदयोन्मुख हल्ल्याच्या परिस्थितीचे लवकर निदान आणि शमन करण्यासाठी तांत्रिक आणि संस्थात्मक विश्वासासाठी क्षमता विकसित करणे. डीपफेक हे ISO/IEC 30107-3, प्रेझेंटेशन अटॅक डिटेक्शन (PAD) मानक मध्ये समाविष्ट केलेल्या हल्ल्यांपैकी एक म्हणून समाविष्ट नाहीत. 3D गती शोधणे आणि विश्लेषण यासारख्या PAD प्रणालींनी वापरलेली तंत्रे डीपफेक शोधू शकतात जी सामान्यतः व्हिडिओ रिप्ले हल्ल्यांवर लागू केली जातात. तथापि, हे आभासी कॅमेरे डीओटी सक्षम करून शोधू शकत नाहीत कारण हे हल्ले एकापेक्षा जास्त अटॅक वेक्टर सादर करतात. कृत्रिम बुद्धिमत्ता तंत्रज्ञान काही प्रमाणात ब्लिंकिंग डिटेक्शन, ऑक्लूजन किंवा इमेज फॉरेन्सिक्स यासारख्या डीपफेकचे पैलू शोधू शकते, तर व्हर्च्युअल कॅमेरा एक उदयोन्मुख आणि मोठा धोका सादर करतो.
DOT सारख्या उदयोन्मुख हल्ल्याच्या परिस्थितीचे लवकर निदान आणि शमन करण्यासाठी तांत्रिक आणि संस्थात्मक विश्वासासाठी क्षमता विकसित करणे. डीपफेक हे ISO/IEC 30107-3, प्रेझेंटेशन अटॅक डिटेक्शन (PAD) मानक मध्ये समाविष्ट केलेल्या हल्ल्यांपैकी एक म्हणून समाविष्ट नाहीत.
प्रतिष्ठेला हानी पोहोचवण्यासाठी किंवा लोकशाहीला कमकुवत करण्यासाठी डीपफेकचा वापर अधिक सहजपणे ओळखला गेला आहे. जगभरातील न्यायक्षेत्र प्रतिसाद म्हणून डीपफेकसाठी कायदे आणि नियम विकसित करण्याच्या दिशेने काम करत आहेत. परंतु DOT स्तरीय कार्यक्षमतेमुळे उद्भवणारे उदयोन्मुख धोके आणि ते एका विशिष्ट क्षेत्रात कसे खेळतात हे समजून घेणे महत्वाचे आहे. डीपफेक अधिक ठळक झाले आहेत अशा क्षेत्रांमध्ये, डीपफेकच्या आसपासच्या नियम आणि नियमांप्रमाणे नियामक आणि धोरणकर्त्यांनी विशिष्ट क्षेत्राच्या असुरक्षिततेचे निराकरण करण्यासाठी संस्थात्मक क्षमता निर्माण करण्याच्या दिशेने काम करणे आवश्यक आहे.
अनुलेखा नंदी या ऑब्जर्वर रिसर्च फाऊंडेशनमध्ये फेलो आहेत.
https://www.orfonline.org/hindi/expert-speak/deepfakes-and-potential-implications-for-online-identity-verification
The views expressed above belong to the author(s). ORF research and analyses now available on Telegram! Click here to access our curated content — blogs, longforms and interviews.
PREV
