जागतिक आर्थिक क्षेत्रासाठी डीपफेक्सचा धोका वाढत असताना, भारतीय सरकारची बहुस्तरीय प्रतिक्रिया ही क्षेत्र-विशिष्ट आदेशांऐवजी सर्वसमावेशक नियमनाच्या माध्यमातून डिजिटल वित्त सुरक्षित करण्याच्या दिशेने मोठी प्रगती दर्शवते.
2025 च्या एका अभ्यासानुसार, भारतामधील आर्टिफिशियल इंटेलिजन्स (AI) आधारित फसवणुकीतील 47 टक्के भारतीय प्रौढ स्वतः AI व्हॉइस-क्लोनिंग किंवा डीपफेक फसवणुकीचे बळी ठरले आहेत किंवा अशा प्रकारचा अनुभव आलेल्या एखाद्या व्यक्तीला ओळखतात. ही टक्केवारी जागतिक सरासरी 25 टक्क्यांच्या जवळजवळ दुप्पट आहे. त्याच अहवालात असेही नमूद करण्यात आले आहे की, AI व्हॉइस स्कॅमचे बळी ठरलेल्या 83 टक्के भारतीयांना आर्थिक नुकसान झाले असून, त्यापैकी जवळपास निम्म्या लोकांचे 50,000 रुपयांपेक्षा जास्त नुकसान झाले आहे. हे भारतीय आर्थिक परिसंस्थेत डीपफेक-सक्षम फसवणुकीचा वेगाने होत असलेला विस्तार अधोरेखित करते. या झपाट्याने बदलणाऱ्या धोक्याच्या वातावरणात, वित्तीय संस्थांसाठी सर्वाधिक चिंताजनक घडामोड म्हणजे सायबर-सक्षम आर्थिक गुन्ह्यांचे साधन म्हणून डीपफेक्सचा उदय आणि वाढता प्रसार होय.
आर्टिफिशियल इंटेलिजन्स आणि मशीन लर्निंग इतक्या प्रगत पातळीवर पोहोचले आहेत की तयार केलेली कृत्रिम साहित्य (सिंथेटिक कंटेंट) इतकी वास्तवदर्शी दिसतो की बहुतेक लोकांना तो खरा आहे की बनावट हे ओळखणे कठीण जाते. या प्रगतीमुळे इनोव्हेशन आणि कार्यक्षमतेस मोठ्या संधी उपलब्ध झाल्या असल्या तरी, त्याच वेळी फसवणूक, बनावट ओळख आणि मोठ्या प्रमाणावर होणारी दिशाभूल यांचे नवे प्रकारही निर्माण झाले आहेत. हे प्रकार विद्यमान कायदेशीर, तांत्रिक आणि संस्थात्मक सुरक्षा व्यवस्थांसमोर गंभीर आव्हाने उभे करतात.
डीपफेक्समुळे वित्तीय क्षेत्रातील धोके अधिक तीव्र होतात, कारण वास्तवदर्शी कृत्रिम माध्यमांचा वापर करून बाजारातील गैरव्यवहार, माहिती सुरक्षेतील भंग, फसवणूक, नियामक उल्लंघन आणि प्रतिमेला धक्का पोहचवणे शक्य होते.
‘डीपफेक’ हा शब्द ‘डीप’ (डीप लर्निंग – DL) आणि ‘फेक’ (बनावट किंवा बदललेली सामग्री) या दोन शब्दांच्या संयोगातून तयार झाला आहे. याचा सामान्यतः अर्थ असा होतो की विद्यमान माध्यम सामग्री म्हणजेच प्रतिमा, व्हिडिओ किंवा ऑडिओ रेकॉर्डिंग यामध्ये फेरफार करणे किंवा मोठ्या डेटासेटवर प्रशिक्षित DL-आधारित पद्धतींचा वापर करून पूर्णपणे नवीन, कृत्रिम माध्यम तयार करणे. प्रत्यक्ष व्यवहारात, डीपफेक्समध्ये बनावट चेहऱ्याच्या प्रतिमा, खऱ्या व्यक्तींच्या आवाजासारखे भासणारे कृत्रिम भाषण, तसेच बदललेले दृश्य आणि बनावट ऑडिओ एकत्र करणारे संमिश्र व्हिडिओ यांचा समावेश होतो. वित्तीय क्षेत्राच्या संदर्भात, या क्षमतांमुळे सोशल इंजिनिअरिंग, ओळख चोरी आणि मोठ्या मूल्याच्या फसवणुकीसाठी नवे हल्ल्याचे मार्ग उपलब्ध होत असून, शोध, नियमन आणि संस्थात्मक लवचिकता याबाबत तातडीचे प्रश्न निर्माण होत आहेत.
डीपफेक्स वित्तीय संस्था आणि त्यांच्या ग्राहकांसाठी बहुआयामी धोके निर्माण करतात, कारण ते डेटाची अखंडता, गोपनीयता आणि कार्यात्मक सुरक्षितता यांना बाधा पोहोचवतात. त्यांचा वापर व्यवहारांमध्ये फेरफार करण्यासाठी, संवाद बनावट करण्यासाठी आणि अंतर्गत निर्णय-समर्थन प्रणाली विस्कळीत करण्यासाठी केला जाऊ शकतो, ज्यामुळे डिजिटल नोंदींच्या प्रामाणिकतेवरील विश्वास ढासळतो. परिणामी, व्यवसायातील निर्णय प्रक्रियेत मोठा धोका निर्माण होतो, कारण व्यवस्थापक आणि स्वयंचलित प्रणाली ग्राहकांचे मूल्यमापन करताना, व्यवहारांना मंजुरी देताना किंवा बाजार संकेतांना प्रतिसाद देताना बनावट दृकश्राव्य पुराव्यावर अवलंबून राहू शकतात. भारतात हा धोका मुख्य प्रवाहातील वित्तीय क्षेत्र आणि किरकोळ गुंतवणुकीत प्रत्यक्ष दिसू लागला आहे, जिथे डीपफेक-आधारित गुंतवणूक जाहिरातींमध्ये मध्यवर्ती बँक आणि बाजारातील अधिकाऱ्यांची तोतयागिरी करून फसवणूक योजनांना खोटी वैधता दिली जात आहे.
डीपफेक्समुळे वित्तीय क्षेत्रातील धोके अधिक तीव्र होतात, कारण वास्तवदर्शी कृत्रिम माध्यमांचा वापर करून बाजारातील गैरव्यवहार, माहिती सुरक्षेतील भंग, फसवणूक, नियामक उल्लंघन आणि प्रतिमेला धक्का पोहचवणे शक्य होते. ते बनावट माहितीचा जलद प्रसार घडवून आणतात, ओळख पडताळणीला बायपास करणारी अत्यंत अचूक तोतयागिरी सक्षम करतात आणि मोठ्या प्रमाणावर कृत्रिम ओळखी निर्माण करून ग्राहक नोंदणी व भरती प्रक्रिया दूषित करतात आणि अखेरीस डिजिटल वित्तीय सेवांवरील आणि अधिकृत संवादांवरील विश्वास कमकुवत करतात.
डीपफेक्स बायोमेट्रिक प्रणालींसाठीही गंभीर धोका निर्माण करतात, कारण ते चेहऱ्यावरून ओळख (फेशियल रेकग्निशन) आणि आवाज पडताळणी (व्हॉईस ऑथेंटिकेशन) यांची विश्वासार्हता लक्षणीयरीत्या कमी करतात. परिणामी, सुरक्षित दूरस्थ प्रवेश (रिमोट ऍक्सेस) आणि ग्राहक पडताळणीसाठी ज्यावर अनेक वित्तीय संस्था अवलंबून आहेत त्या यंत्रणा कमकुवत होतात. अशा प्रकारे, बायोमेट्रिक वैशिष्ट्यांच्या अद्वितीयतेवर आधारित पारंपरिक सुरक्षा नियंत्रण व्यवस्थाच या तंत्रज्ञानामुळे पद्धतशीरपणे दुर्बल होत आहे.
2024 मध्ये, हाँगकाँगमधील एका अभियांत्रिकी कंपनीतील कर्मचाऱ्याला व्हिडिओ कॉन्फरन्स कॉलदरम्यान डीपफेक फसवणुकीचा बळी पडावे लागले. हल्लेखोरांनी AI-निर्मित व्हिडिओंच्या साहाय्याने कंपनीचे सीएफओ आणि सहकाऱ्यांची तोतयागिरी केली आणि त्या कर्मचाऱ्याला कंपनीच्या बँक खात्यांतून सुमारे US$25 मिलियन इतकी रक्कम हस्तांतरित करण्यास प्रवृत्त केले. ही घटना दर्शवते की नियमित कॉर्पोरेट वातावरणात केलेली विश्वासार्ह कार्यकारी तोतयागिरी मानवी आणि प्रक्रियात्मक नियंत्रण यांना सहज चुकवू शकते आणि थेट मोठ्या आर्थिक नुकसानीस व संस्थात्मक जोखमीस कारणीभूत ठरू शकते.
या घडामोडींचे आंतरराष्ट्रीय वित्तीय स्थैर्य आणि सुरक्षेवर व्यापक परिणाम होत आहेत. उदाहरणार्थ, डीपफेक-सक्षम दिशाभूल ही एखादे राष्ट्र किंवा राजकीय प्रेरणेतून कार्य करणाऱ्या घटकांकडून शेअर बाजारात फेरफार करण्यासाठी वापरली जाऊ शकते त्यासाठी अधिकाऱ्यांची बनावट विधाने किंवा खोटी उपस्थिती दाखवणारे व्हिडिओ प्रसारित केले जातात. मे 2023 मध्ये, रशिया समर्थक एका खात्याने पेंटॅगॉनजवळ स्फोट झाल्याचे दर्शवणारी AI-निर्मित प्रतिमा प्रसारित केली होती, ज्यामुळे अवघ्या चार मिनिटांत डाऊ जोन्स इंडस्ट्रियल अव्हरेज 85 अंकांनी घसरला. डीपफेक्स बायोमेट्रिक प्रणालींसाठीही गंभीर धोका निर्माण करतात, कारण ते चेहऱ्यावरून ओळख (फेशियल रेकग्निशन) आणि आवाज पडताळणी (व्हॉईस ऑथेंटिकेशन) यांची विश्वासार्हता लक्षणीयरीत्या कमी करतात. परिणामी, सुरक्षित दूरस्थ प्रवेश (रिमोट ऍक्सेस) आणि ग्राहक पडताळणीसाठी ज्यावर अनेक वित्तीय संस्था अवलंबून आहेत त्या यंत्रणा कमकुवत होतात. अशा प्रकारे, बायोमेट्रिक वैशिष्ट्यांच्या अद्वितीयतेवर आधारित पारंपरिक सुरक्षा नियंत्रण व्यवस्थाच या तंत्रज्ञानामुळे पद्धतशीरपणे दुर्बल होत आहे.
डीपफेक्सच्या वाढत्या प्रसारामुळे वापरकर्त्यांचे वर्तन आणि जोखमीविषयीची धारणा देखील बदलत आहे. कृत्रिम माध्यमे अधिक प्रमाणात दिसू लागल्याने फसवणुकीबाबतची भीती वाढते आणि ग्राहक डिजिटल संवाद, दूरस्थ सल्ला सेवा (रिमोट ॲडव्हायसरी सर्विसेस) तसेच ऑनलाइन नोंदणी प्रक्रियांवर विश्वास ठेवण्यास कचरतात. डीपफेक्स वापरकर्त्यांच्या गोपनीयतेचे संरक्षण करण्यासाठी तयार करण्यात आलेल्या पारंपरिक यंत्रणांनाही कमकुवत करतात आणि वैयक्तिक माहिती व प्रतिमा शस्त्र म्हणून वापरले जाणार नाही यावरील विश्वास ढासळवतात.
ऑडिओ, व्हिडिओ आणि मजकूर यांचा एकत्रित वापर करणारे मल्टिमोडल डीपफेक्स अधिक विश्वासार्ह वाटतात, ज्यामुळे वैध संदेश आणि अपायकारक संदेश यातील फरक ओळखणे वापरकर्त्यांसाठी फारच कठीण होते आणि सोशल इंजिनिअरिंग मोहिमांच्या यशाचे प्रमाण वाढते. यूकेस्थित तंत्रज्ञान कंपनी iProov ने केलेल्या अलीकडील जागतिक सर्वेक्षणानुसार, 49 टक्के प्रतिसादकर्त्यांनी डीपफेक्सबद्दल माहिती मिळाल्यानंतर सोशल मीडियावरचा आपला विश्वास कमी झाल्याचे सांगितले, तर 74 टक्के लोकांनी समाजावर होणाऱ्या व्यापक परिणामांविषयी चिंता व्यक्त केली.
भारतातही, सुधा मूर्ती यांसारख्या प्रसिद्ध व्यक्तींच्या प्रतिमा वापरून तयार करण्यात आलेल्या डीपफेक गुंतवणूक जाहिरातींमुळे ग्राहकांना लक्ष्य केले गेले आहे, आणि अनेक पीडितांनी मोठ्या आर्थिक नुकसानीची नोंद केली आहे. या घटनांनी AI-आधारित आर्थिक वातावरणात वैयक्तिक फोटो आणि ध्वनिमुद्रिका शेअर करण्याच्या सुरक्षिततेबाबत जनतेची चिंता अधिक तीव्र केली आहे.
अखेर, डीपफेक्स सोशल मीडिया आणि डिजिटल संवाद मंचांतील असुरक्षा अधिक तीव्र करतात आणि त्यांच्या जलद प्रसारासाठी प्रभावी माध्यम म्हणून वापर करतात. अनुभवाधारित पुरावे दर्शवतात की शत्रुत्वपूर्ण किंवा अपायकारक सामग्री अत्यल्प खर्चात जसे की प्रति व्ह्यू फक्त US$0.07 इतक्या कमी किमतीत मोठ्या प्रेक्षकांपर्यंत पोहोचू शकते. यामुळे डीपफेक-आधारित कथानके किंवा फसवणूक योजना अल्प कालावधीत मोठ्या प्रमाणावर पसरू शकतात. वित्तीय क्षेत्रात, यामध्ये आर्थिक सल्लागार, गुंतवणूक बँकर किंवा विषयतज्ज्ञांची तोतयागिरी करणारे व्हिडिओ समाविष्ट असतात, जे बनावट गुंतवणूक योजनांचा प्रचार करण्यासाठी किंवा किरकोळ गुंतवणूकदारांच्या भावना प्रभावित करण्यासाठी वापरले जातात.
या आव्हानांना सामोरे जाण्यासाठी तांत्रिक उपाययोजनांचा जसे की अधिक मजबूत बायोमेट्रिक आणि प्रमाणीकरण प्रणाली तसेच कृत्रिम माध्यमांसाठी अनुकूल अशा कडक गोपनीयता आणि वित्तीय नियमनाचा संगम आवश्यक आहे.
भारतीय सरकारने वित्तीय क्षेत्रासह डीपफेक धोके हाताळण्यासाठी सायबर कायद्यांचे बळकटीकरण, डिजिटल प्लॅटफॉर्मसाठी मार्गदर्शक सूचना, आणि संस्थात्मक क्षमता वाढवणे अशा एकात्मिक धोरणाचा अवलंब केला आहे. जरी या उपाययोजना शब्दरचनेत तंत्रज्ञान-निरपेक्ष असल्या, तरी त्या थेट AI-आधारित दिशाभूल, तोतयागिरी आणि ओळख चोरी यांना लक्ष्य करतात, जे आर्थिक फसवणूक आणि सायबर गुन्ह्यांना चालना देतात.
तक्ता 1: कायदेशीर चौकट आणि ड्यू डिलिजन्स जबाबदाऱ्या
स्रोत: लेखकाची निर्मिती
हा तक्ता वित्तीय फसवणुकीमध्ये डीपफेक्सचा प्रसार रोखण्यासाठी प्लॅटफॉर्मवर पूर्वतयारी स्वरूपाची सामग्री नियंत्रण लागू करणारे मुख्य कायदे आणि नियमांची रूपरेषा मांडतो.
डिसेंबर 2023 मध्ये इलेक्ट्रॉनिक्स आणि माहिती तंत्रज्ञान मंत्रालयाने (MeitY) जारी केलेल्या सूचनांनुसार, मध्यस्थ प्लॅटफॉर्मना AI-आधारित डीपफेक दिशाभूल स्पष्टपणे प्रतिबंधित करणे बंधनकारक करण्यात आले आहे. नोंदणी, लॉगिन आणि सामग्री अपलोड करताना वापरकर्त्यांना IT कायदा आणि भारतीय न्याय संहिता अंतर्गत शिक्षेची तरतूद असल्याची सूचना देणे प्लॅटफॉर्मना आवश्यक आहे. यामुळे वित्तीय नियामक, बँक अधिकारी किंवा तज्ज्ञांची नक्कल करणारे डीपफेक्स सेवा अटींमध्ये प्रतिबंधित ठरतात आणि किरकोळ गुंतवणूकदारांमध्ये त्यांचा प्रसार होण्यापूर्वी तात्काळ हटवले जातात.
सहा महिन्यांच्या आत जारी करण्यात आलेल्या पुढील सूचनेनुसार, वापरकर्त्याच्या किंवा सरकारच्या तक्रारीनंतर 36 तासांच्या आत डीपफेक्स आणि दिशाभूल करणारी माहिती हटवणे बंधनकारक आहे. या नियमांचे पालन न केल्यास IT नियम 2021 मधील नियम 7 लागू होतो, ज्यामुळे IT कायद्याच्या कलम 79 अंतर्गत मिळणारे सेफ हार्बर संरक्षण रद्द होते आणि नागरी किंवा फौजदारी कारवाई होऊ शकते. ही यंत्रणा फसवणूक आणि बाजारातील गैरव्यवहार रोखण्यासाठी डीपफेक्स व तोतयागिरी करणारी सामग्री जलद हटवण्यास भाग पाडते.
सरकार डीपफेक्सना “सुरक्षित, विश्वासार्ह आणि उत्तरदायी” सायबर अवकाश निर्माण करण्याच्या उद्दिष्टातील एक मोठा अडथळा मानते. त्यामुळे या उद्दिष्टांना धोका निर्माण करणाऱ्या डीपफेक-आधारित हानी ओळखण्यासाठी, त्या मर्यादित करण्यासाठी आणि त्यावर प्रतिसाद देण्यासाठी एक बहुस्तरीय संस्थात्मक चौकट उभारण्यात आली आहे.
IT कायद्याला पूरक म्हणून डिजिटल पर्सनल डेटा प्रोटेक्शन ॲक्ट 2023 आणि भारतीय न्याय संहिता 2023 लागू करण्यात आले असून, त्यांत ओळख चोरी, तोतयागिरी, गोपनीयतेचा भंग, दिशाभूल आणि संघटित सायबर गुन्हे यांना गुन्हेगारी स्वरूप देण्यात आले आहे. हे सर्व प्रगत आर्थिक फसवणुकीचे प्रमुख मार्ग आहेत. यामध्ये मुख्य संस्था पुढीलप्रमाणे आहेत: इंडियन सायबर क्राइम कोऑर्डिनेशन सेंटर (I4C), CERT-In, नॅशनल सायबर क्राइम रिपोर्टिंग पोर्टल, ग्रीव्हन्स ऍपलेट कमिटीज. या संस्था नागरिकांना आणि वित्तीय फसवणुकीच्या बळींना तक्रार नोंदवण्याची सुविधा देतात, स्वयंचलित सामग्री हटवण्याची प्रक्रिया सक्षम करतात आणि AI-आधारित धोके रोखण्यासाठी समन्वित कारवाई सुनिश्चित करतात.
वित्तीय क्षेत्रासाठी या अप्रत्यक्ष उपाययोजना प्रभावी ठरतात. त्या डेटा आणि ओळखीच्या गैरवापराला गुन्हेगारी स्वरूप देतात, सर्व डिजिटल प्लॅटफॉर्मवरून डीपफेक सामग्री हटवणे बंधनकारक करतात आणि सायबर प्रतिसाद क्षमतेला बळकटी देतात. यामुळे डीपफेक-विशिष्ट बँकिंग नियम न करता देखील फसवणूक करणारी पायाभूत रचना मर्यादित केली जाते आणि व्यापक सायबर, डेटा व प्लॅटफॉर्म नियमांच्या माध्यमातून भारताच्या डिजिटल वित्तीय वाढीचे संरक्षण होते.
भारताची बहुस्तरीय भूमिका वित्तीय क्षेत्रातील डीपफेक धोके मोठ्या प्रमाणात कमी करते. मजबूत कायदेशीर पाया निर्माण करणे, प्लॅटफॉर्मवरील उत्तरदायित्व वाढवणे आणि संस्थात्मक लवचिकता बळकट करणे या माध्यमातून हा धोका नियंत्रित केला जात आहे. या धोरणांतर्गत तोतयागिरी करणारी सामग्री 36 तासांच्या आत हटवणे बंधनकारक करण्यात आले असून, त्यामुळे फसवणूक योजनांचा प्रसार मर्यादित होतो. तसेच, आर्थिक फसवणुकीमागील ओळख चोरी आणि दिशाभूल यांना गुन्हेगारी स्वरूप देण्यात आले आहे आणि घटनांची तात्काळ नोंद व समन्वित सरकारी प्रतिसाद सुलभ करण्यात आला आहे.
या व्यवस्थेची प्रभावीता अधिक वाढवण्यासाठी, सायबर कायदा, डेटा संरक्षण आणि अंमलबजावणी यांचा समावेश असलेल्या या सर्वसमावेशक रचनेत व्यापक जनजागृती मोहिमा, असुरक्षित गटांसाठी वित्तीय साक्षरता कार्यक्रम, तसेच युरोपियन युनियनच्या EU AI Act आणि सिंगापूरच्या डीपफेक शोध आदेशांमधून घेतलेले धडे समाविष्ट करणे आवश्यक आहे. अशा प्रकारे, क्षेत्र-विशिष्ट कायदे न आणता देखील डिजिटल वित्तीय परिसंस्थेचे संरक्षण अधिक प्रभावीपणे करता येईल.
प्रणॉय जैनेंद्रन हे ऑब्झर्व्हर रिसर्च फाउंडेशनच्या सेंटर फॉर सिक्युरिटी, स्ट्रॅटेजी अँड टेक्नॉलॉजी येथे रिसर्च असिस्टंट आहेत.
The views expressed above belong to the author(s). ORF research and analyses now available on Telegram! Click here to access our curated content — blogs, longforms and interviews.
Pranoy Jainendran is a Research Assistant with ORF’s Centre for Security, Strategy & Technology. His work examines how technology shapes State institutions, national and international affairs, ...
Read More +
PREV
