ऑनलाइन पैसे सुरक्षित कैसे? डीपफेक से सीखें

भारत में आर्टिफ़िशियल इंटेलिजेंस (एआई) से जुड़े घोटालों पर 2025 में किए गए एक विश्लेषण के अनुसार, भारत के 47 प्रतिशत वयस्क या तो स्वयं एआई वॉयस-क्लोनिंग या डीपफेक घोटाले का शिकार हो चुके हैं, या ऐसे किसी व्यक्ति को जानते हैं जो इसका शिकार बना है. यह आंकड़ा वैश्विक औसत 25 प्रतिशत से लगभग दोगुना है. इसी रिपोर्ट में यह भी बताया गया है कि एआई वॉयस-स्कैम के शिकार 83 प्रतिशत भारतीयों को आर्थिक नुकसान हुआ, जिनमें से लगभग आधे लोगों ने 50,000 रुपये से अधिक की राशि गंवाई. यह स्थिति भारत की वित्तीय व्यवस्था में डीपफेक आधारित धोखाधड़ी के तेज़ी से बढ़ते खतरे को दर्शाती है. इस तेजी से बदलते खतरे के माहौल में, वित्तीय संस्थानों के लिए सबसे चिंताजनक विकास डीपफेक का साइबर-आधारित वित्तीय अपराध के एक प्रभावी औज़ार के रूप में उभरना है.

डीपफेक वित्तीय क्षेत्र के जोखिम को कई गुना बढ़ा देते हैं. इनके ज़रिए बाज़ार में हेरफेर, सूचना सुरक्षा में सेंध, वित्तीय धोखाधड़ी, नियमों का उल्लंघन और संस्थानों की प्रतिष्ठा को भारी नुकसान पहुँचाया जा सकता है. ‘डीपफेक’ शब्द ‘डीप’ और ‘फेक’ से मिलकर बना है. यहाँ ‘डीप’ का अर्थ डीप लर्निंग से है और ‘फेक’ का मतलब नकली सामग्री से. सामान्य रूप से डीपफेक का आशय ऐसी तस्वीरों, वीडियो या ऑडियो से है, जिन्हें डीप लर्निंग तकनीक की मदद से बदला गया हो या पूरी तरह नया तैयार किया गया हो. इसमें नकली चेहरे, किसी व्यक्ति जैसी आवाज़ में बनाई गई ऑडियो क्लिप और ऐसे वीडियो शामिल होते हैं जिनमें नकली दृश्य और आवाज़ दोनों जोड़े जाते 

डीपफेक से उभरते खतरे

डीपफेक वित्तीय संस्थानों और उनके ग्राहकों के लिए कई तरह के जोखिम पैदा करते हैं. ये डेटा की विश्वसनीयता, गोपनीयता और संचालन सुरक्षा को सीधे चुनौती देते हैं. इनके ज़रिए लेन-देन में हेरफेर किया जा सकता है, आधिकारिक संचार बदला जा सकता है और आंतरिक निर्णय-प्रणालियों को गुमराह किया जा सकता है. इससे डिजिटल रिकॉर्ड की प्रामाणिकता पर भरोसा कमज़ोर पड़ता है. परिणामस्वरूप, कारोबारी निर्णय-प्रक्रिया में गंभीर जोखिम पैदा होता है, क्योंकि प्रबंधक और स्वचालित प्रणालियाँ नकली ऑडियो-वीडियो साक्ष्यों के आधार पर ग्राहकों का मूल्यांकन, भुगतान की मंज़ूरी या बाज़ार संकेतों पर प्रतिक्रिया दे सकती हैं. भारत में यह खतरा अब मुख्यधारा के वित्त और खुदरा निवेश में भी दिखाई देने लगा है, जहाँ डीपफेक आधारित निवेश प्रचार में केंद्रीय बैंक और बाज़ार नियामकों का रूप धारण कर ठगी की जा रही है.

‘डीपफेक’ शब्द ‘डीप’ और ‘फेक’ से मिलकर बना है. यहाँ ‘डीप’ का अर्थ डीप लर्निंग से है और ‘फेक’ का मतलब नकली सामग्री से. सामान्य रूप से डीपफेक का आशय ऐसी तस्वीरों, वीडियो या ऑडियो से है, जिन्हें डीप लर्निंग तकनीक की मदद से बदला गया हो या पूरी तरह नया तैयार किया गया हो.

डीपफेक यथार्थ जैसे दिखने वाले नकली कंटेंट के ज़रिए वित्तीय जोखिम को और बढ़ा देते हैं. ये नकली सूचनाएँ तेज़ी से फैलाकर बाज़ार की कीमतों को प्रभावित कर सकते हैं, सुरक्षा जांच को चकमा देने वाली सटीक नकल तैयार कर सकते हैं और बड़े पैमाने पर फर्जी पहचान बनाकर बैंकिंग, भर्ती और ऑनबोर्डिंग प्रक्रियाओं को नुकसान पहुंचा सकते हैं. इसका सीधा असर डिजिटल वित्तीय सेवाओं और आधिकारिक संचार पर लोगों के भरोसे को कमजोर करने के रूप में सामने आता है. वर्ष 2024 में हांगकांग की एक इंजीनियरिंग कंपनी में एक कर्मचारी वीडियो कॉन्फ्रेंस के दौरान डीपफेक घोटाले का शिकार हो गया. हमलावरों ने एआई-जनित वीडियो के ज़रिए कंपनी के सीएफ़ओ और अन्य सहकर्मियों की नकल की और कर्मचारी को लगभग 2.5 करोड़ अमेरिकी डॉलर के लेन-देन की मंज़ूरी देने के लिए मना लिया. यह मामला दिखाता है कि कैसे डीपफेक सामान्य कार्यालय प्रक्रियाओं और मानवीय नियंत्रणों को भी आसानी से धोखा दे सकते हैं.

डीपफेक चेहरे की पहचान और आवाज़ सत्यापन जैसी बायोमेट्रिक प्रणालियों को भी कमजोर करते हैं. इससे उन सुरक्षा उपायों की विश्वसनीयता घटती है, जिन पर कई वित्तीय संस्थान ऑनलाइन पहचान सत्यापन और सुरक्षित दूरस्थ पहुँच के लिए निर्भर करते हैं.

इन घटनाओं का असर अंतरराष्ट्रीय वित्तीय स्थिरता और सुरक्षा पर भी पड़ता है. डीपफेक आधारित गलत सूचना का उपयोग राज्य या राजनीतिक रूप से प्रेरित तत्व शेयर बाज़ार को प्रभावित करने के लिए कर सकते हैं. मई 2023 में पेंटागन के पास विस्फोट की एक एआई-जनित नकली तस्वीर सोशल मीडिया पर फैलने से केवल चार मिनट में डॉव जोन्स सूचकांक 85 अंकों तक गिर गया था. यह घटना दिखाती है कि डीपफेक कैसे वैश्विक बाज़ारों में अस्थिरता पैदा कर सकते हैं.

डीपफेक पारंपरिक गोपनीयता सुरक्षा तंत्र को भी कमजोर करते हैं और यह डर पैदा करते हैं कि किसी की निजी तस्वीरें या आवाज़ उसके ख़िलाफ़ इस्तेमाल की जा सकती हैं. ऑडियो, वीडियो और टेक्स्ट को मिलाकर बनाए गए मल्टीमॉडल डीपफेक और अधिक विश्वसनीय लगते हैं, जिससे असली और नकली में अंतर करना और भी कठिन हो जाता है. ब्रिटेन की तकनीकी कंपनी iProov के एक वैश्विक सर्वेक्षण में 49 प्रतिशत लोगों ने डीपफेक के बारे में जानने के बाद सोशल मीडिया पर कम भरोसा जताया, जबकि 74 प्रतिशत ने इसके व्यापक सामाजिक प्रभाव को लेकर चिंता व्यक्त की. भारत में भी प्रसिद्ध हस्तियों के नाम पर बनाए गए डीपफेक निवेश विज्ञापनों से लोगों को भारी नुकसान हुआ है, जिससे निजी तस्वीरें और रिकॉर्डिंग साझा करने को लेकर डर बढ़ा है.

भारत में यह खतरा अब मुख्यधारा के वित्त और खुदरा निवेश में भी दिखाई देने लगा है, जहाँ डीपफेक आधारित निवेश प्रचार में केंद्रीय बैंक और बाज़ार नियामकों का रूप धारण कर ठगी की जा रही है.

अध्ययन बताते हैं कि बेहद कम लागत-प्रति व्यू केवल कुछ सेंट-पर ऐसी नकली सामग्री बहुत बड़े दर्शक वर्ग तक पहुँच सकती है. इससे डीपफेक आधारित घोटाले और गलत सूचनाएँ बहुत कम समय में बड़े पैमाने पर फैल सकती हैं. अंततः, डीपफेक सोशल मीडिया और डिजिटल संचार प्लेटफ़ॉर्म की कमजोरियों का लाभ उठाते हैं और इन्हें तेज़ी से फैलाने का माध्यम बना लेते हैं. 

डीपफेक से निपटने की भारत की रणनीति

भारतीय सरकार ने डीपफेक से उत्पन्न खतरों-जिसमें वित्तीय क्षेत्र से जुड़े जोखिम भी शामिल हैं-से निपटने के लिए एक समन्वित और बहु-स्तरीय रणनीति अपनाई है. इसमें सशक्त साइबर क़ानून, डिजिटल प्लेटफ़ॉर्म के लिए दिशा-निर्देश (एडवाइजरी) और संस्थागत ढांचे को मज़बूत करना शामिल है. यद्यपि इन उपायों की भाषा तकनीक-तटस्थ है, फिर भी ये सीधे तौर पर एआई-आधारित गलत सूचना, पहचान की नकल और पहचान की चोरी जैसी समस्याओं को संबोधित करते हैं, जो वित्तीय घोटालों और साइबर धोखाधड़ी की मुख्य वजह बन रही हैं.

Table 1: Legal Framework and Due Diligence Obligations

Legislation	Obligations	Relevance to Deepfake Fraud
IT Act 2000	Provides framework for electronic records, signatures, and penalties for identity theft (s.66C), cheating by personation (s.66D), and privacy violations (s.66E).	Criminalises synthetic identities and impersonations used in scams.
IT Intermediary Rules 2021 (amended 2022/2023)	Requires "due diligence" to prevent hosting/sharing of unlawful content, including misinformation and impersonation; Rule 3(1)(b) mandates user notifications in the preferred language and proactive content removal.	Platforms must block deepfake videos of officials or fraudulent advice, with safe-harbour loss for non-complianc

 

Source: Author’s creation

यह तालिका उन मुख्य क़ानूनों और नियमों को दर्शाती है जो डिजिटल प्लेटफॉर्म पर सक्रिय सामग्री नियंत्रण को अनिवार्य बनाते हैं और वित्तीय घोटालों में डीपफेक के प्रसार को रोकने की बुनियाद तैयार करते हैं.

डीपफेक के लिए प्लेटफ़ॉर्म पर अनिवार्य अनुपालन

दिसंबर 2023 में इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (MeitY) द्वारा जारी की गई एडवाइजरी के तहत सभी डिजिटल मध्यस्थों को एआई-आधारित डीपफेक और गलत सूचना पर स्पष्ट रूप से प्रतिबंध लगाना अनिवार्य कर दिया गया है. प्लेटफ़ॉर्म को पंजीकरण, लॉग-इन और कंटेंट अपलोड के समय उपयोगकर्ताओं को यह जानकारी देनी होती है कि ऐसे कंटेंट पर आईटी अधिनियम और भारतीय न्याय संहिता के तहत दंड का प्रावधान है. इससे वित्तीय नियामकों, बैंक अधिकारियों या विशेषज्ञों की नकल करने वाले डीपफेक को सेवा शर्तों के अंतर्गत प्रतिबंधित कर उन्हें तेज़ी से हटाया जा सके.

डीपफेक पारंपरिक गोपनीयता सुरक्षा तंत्र को भी कमजोर करते हैं और यह डर पैदा करते हैं कि किसी की निजी तस्वीरें या आवाज़ उसके ख़िलाफ़ इस्तेमाल की जा सकती हैं.

इसके छह महीने के भीतर जारी एक और एडवाइजरी में यह अनिवार्य किया गया कि उपयोगकर्ता या सरकार से शिकायत मिलने के 36 घंटे के भीतर डीपफेक और गलत सूचना को हटाया जाए. नियमों का उल्लंघन होने पर आईटी नियम 2021 के नियम 7 के तहत प्लेटफ़ॉर्म को आईटी अधिनियम की धारा 79 के अंतर्गत मिलने वाला ‘सेफ हार्बर’ संरक्षण समाप्त हो जाता है, और उस पर दीवानी या आपराधिक कार्रवाई की जा सकती है. 

साइबर और वित्तीय सुरक्षा के लिए संस्थागत ढांचा

सरकार डीपफेक को “सुरक्षित, भरोसेमंद और जवाबदेह” साइबरस्पेस के लक्ष्य में एक बड़ी बाधा मानती है. इसी कारण उसने डीपफेक से होने वाले नुकसान की पहचान, रोकथाम और त्वरित प्रतिक्रिया के लिए एक बहु-स्तरीय संस्थागत ढांचा तैयार किया है. आईटी अधिनियम के साथ-साथ डिजिटल पर्सनल डेटा प्रोटेक्शन अधिनियम, 2023 और भारतीय न्याय संहिता, 2023 भी लागू की गई हैं, जो पहचान की चोरी, impersonation, निजता के उल्लंघन, गलत सूचना और संगठित साइबर अपराध को अपराध घोषित करती हैं-ये सभी उन्नत वित्तीय धोखाधड़ी के प्रमुख माध्यम हैं.

भारत की बहु-स्तरीय रणनीति कानूनी ढांचे को मज़बूत करके, प्लेटफ़ॉर्म की जवाबदेही बढ़ाकर और संस्थागत क्षमता को सुदृढ़ बनाकर वित्तीय क्षेत्र में डीपफेक से उत्पन्न खतरों को काफ़ी हद तक कम करती है.

वित्तीय क्षेत्र के संदर्भ में ये अप्रत्यक्ष उपाय प्रभावी सिद्ध होते हैं. ये डेटा और पहचान के दुरुपयोग को अपराध घोषित करते हैं, सभी प्लेटफ़ॉर्म पर डीपफेक हटाने को अनिवार्य बनाते हैं और साइबर प्रतिक्रिया क्षमता को मज़बूत करते हैं. इस तरह बिना किसी अलग बैंकिंग या वित्तीय डीपफेक क़ानून के, व्यापक साइबर, डेटा और प्लेटफ़ॉर्म नियमों के ज़रिए घोटालों की बुनियादी संरचना को सीमित किया जाता है और भारत की डिजिटल वित्तीय वृद्धि को सुरक्षा मिलती है.

निष्कर्ष

भारत की बहु-स्तरीय रणनीति कानूनी ढांचे को मज़बूत करके, प्लेटफ़ॉर्म की जवाबदेही बढ़ाकर और संस्थागत क्षमता को सुदृढ़ बनाकर वित्तीय क्षेत्र में डीपफेक से उत्पन्न खतरों को काफ़ी हद तक कम करती है. यह 36 घंटे के भीतर प्रतिरूपण से जुड़े कंटेंट को हटाने का प्रावधान करती है, जिससे घोटालों का प्रसार रुकता है; पहचान के दुरुपयोग और गलत सूचना को अपराध घोषित करती है, जो वित्तीय धोखाधड़ी की जड़ हैं; और त्वरित शिकायत व समन्वित सरकारी प्रतिक्रिया को संभव बनाती है.

इस व्यवस्था को और प्रभावी बनाने के लिए आवश्यक है कि साइबर क़ानून, डेटा संरक्षण और प्रवर्तन पर आधारित इस समग्र ढांचे के साथ व्यापक जन-जागरूकता अभियान, संवेदनशील वर्गों के लिए वित्तीय साक्षरता कार्यक्रम और यूरोपीय संघ के ईयू एआई एक्ट तथा सिंगापुर की डीपफेक पहचान व्यवस्थाओं जैसे अंतरराष्ट्रीय अनुभवों को भी जोड़ा जाए. इससे बिना किसी क्षेत्र-विशेष क़ानून के भारत के डिजिटल वित्तीय तंत्र को और अधिक सुरक्षित बनाया जा सकता है.

---

प्रणॉय जैनेंद्रन ऑब्जर्वर रिसर्च फाउंडेशन के सेंटर फॉर सिक्योरिटी, स्ट्रेटेजी एंड टेक्नोलॉजी में रिसर्च असिस्टेंट हैं. 

• Cyber and Technology
• India
• AI fraud India
• CERT-In
• Deepfakes in finance
• digital finance security
• financial cybercrime
• IT Act India
• MeitY advisory deepfake
• platform due diligence
• voice cloning scams
• आर्टिफ़िशियल इंटेलिजेंस
• एआई आधारित अपराध
• एआई घोटाले
• एआई वॉयस स्कैम
• ऑनलाइन फ्रॉड
• डिजिटल धोखाधड़ी
• डिजिटल वित्तीय जोखिम
• डीप लर्निंग
• डीपफेक
• डीपफेक स्कैम भारत
• नकली ऑडियो
• नकली वीडियो
• पहचान की चोरी
• बाजार में हेरफेर
• बैंकिंग धोखाधड़ी
• भारत में एआई खतरे
• वित्तीय धोखाधड़ी
• वित्तीय संस्थान
• वॉयस क्लोनिंग
• साइबर अपराध
• साइबर सुरक्षा
• सूचना सुरक्षा

The views expressed above belong to the author(s). ORF research and analyses now available on Telegram! Click here to access our curated content — blogs, longforms and interviews.