भारत में डीपफेकः 47% लोग स्कैम के शिकार

जनरेटिव एआई ने दुष्प्रचार का काम आसान कर दिया है. पहले इसके लिए बहुत मेहनत करनी होती थी, लागत भी ज्यादा लगती थी, लेकिन एआई ने कम लागत पर बड़े पैमाने पर दुष्प्राचर की सामग्री तैयार करना संभव कर दिया है. ये लेख इस बात की पड़ताल करता है कि एआई-संचालित दुष्प्रचार किस तरह मौजूदा कानूनी ढांचों को चुनौती देता है, साथ ही विश्वास और सुरक्षा के सिद्धांतों पर आधारित एक एआई शासन मॉडल का सुझाव देता है.

न्यूज़गार्ड की रिपोर्ट के अनुसार, एआई द्वारा संचालित न्यूज़ साइट्स की संख्या बढ़कर 16 भाषाओं में 2,089 से अधिक हो गई है. इन साइट्स में मानवीय निगरानी ना के बराबर होती है. अगस्त 2025 में, प्रमुख चैटबॉट ने 35 प्रतिशत बार गलत न्यूज़ दी, जो एक साल पहले 18 प्रतिशत थी. 

स्रोत: न्यूज़गार्ड एआई मॉनिटर

भारत की गिनती एआई द्वारा दुष्प्रचार का शिकार होने टॉप देशों में होती है. 47 प्रतिशत भारतीय वयस्क एआई वॉयस-क्लोनिंग या डीपफेक घोटालों का शिकार हुए हैं, जो वैश्विक औसत 25 प्रतिशत से लगभग दोगुना है. ये ख़तरा दो स्तरों पर काम करता है. राष्ट्रीय सुरक्षा, जहां संकट के दौरान ज़मीनी हकीक़तों को तोड़-मरोड़कर पेश करने के लिए झूठी सामग्री का इस्तेमाल किया जाता है. पिछले एक साल में सामने आए दो महत्वपूर्ण मामले इन प्रवृत्तियों को दर्शाते हैं.

पहलगाम आतंकी हमला

राष्ट्रीय सुरक्षा अब सूचना तंत्र से जुड़ी हुई है. 22 अप्रैल, 2025 को कश्मीर के पहलगाम आतंकी हमले ने काफ़ी सुर्खियां बटोरीं. इस हमले में 26 लोगों की जान गई, लेकिन इसके बाद सूचना युद्ध छिड़ गया. कुछ ही घंटों में टेलीग्राम और एक्स (पूर्व में ट्विटर) जैसे प्लेटफॉर्म एआई रचित बयानों से भर गए. डीपफेक वीडियो में वरिष्ठ सैन्य अधिकारियों को "झूठे अभियान" के बारे में बात करते हुए दिखाया गया. कई फेक फोटोज़ बनाई गई, फिर उनका इस्तेमाल धार्मिक और सांप्रदायिक तनाव बढ़ाने के लिए किया गया

 भारत सरकार के प्रेस सूचना ब्यूरो ने संकट के दौरान गलत सूचना के सात प्रमुख मामलों की पहचान की, लेकिन तब तक काफ़ी नुकसान हो चुका था. फर्जी सामग्री और सही सूचना देने में देरी ने सुरक्षाबलों पर जनता के भरोसे को कम कर दिया.

अश्लीलता के लिए एआई का इस्तेमाल

जनवरी 2026 में, एक्स प्लेटफॉर्म पर एक उपयोगकर्ता ग्रोक एआई द्वारा उत्पन्न दुष्प्रचार का शिकार हो गई. किसी व्यक्ति ने एआई को संकेत देकर उसकी प्रोफ़ाइल तस्वीर की अश्लील फोटो बनाई. जब उपयोगकर्ता ने इसकी रिपोर्ट की तो एक्स ने जवाब दिया कि ये उनके नियमों का उल्लंघन नहीं करती है. अपराधी ने उसके निजी इनबॉक्स में और भी फेक फोटो भेजीं. इसके बाद, इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (MeitY) ने एक्स को एक नोटिस जारी कर चेतावनी दी. नोटिस में कहा गया कि भारत के सूचना प्रौद्योगिकी अधिनियम और सूचना प्रौद्योगिकी नियम 2021[1] के तहत वैधानिक उचित सावधानी का पालन ना करने पर ऑनलाइन मध्यस्थ के रूप में उसे मिली छूट ख़त्म की जा सकती है. 

एआई दुष्प्रचार रोकने के लिए क्या किया जा सकता है?

• ज़ोखिम वर्गीकरण का एक स्तरीय ढांचा तैयार करें

MeitY के नवंबर 2025 के एआई शासन के दिशा निर्देश एक सराहनीय और व्यापक ढांचा प्रदान करते हैं, लेकिन इन्हें और अधिक प्रभावी बनाने की ज़रूरत है. तीन श्रेणियां अनिवार्य रूप से अनुपालन के दायरे में आ सकती हैं: पहली, सांप्रदायिक या राष्ट्रीय सुरक्षा संकट के दौरान एआई द्वारा निर्मित सामग्री; दूसरी, वास्तविक व्यक्तियों से संबंधित ऑडियो फ़ाइलें, वीडियो और चित्र बनाने में सक्षम एआई; और तीसरी, चुनावी प्रभाव अभियानों के लिए तैनात एआई. 

2. एम्बेडेड एआई टूल्स के लिए प्लेटफ़ॉर्म का दायित्व तय करें

आईटी अधिनियम की धारा 79[2] सिर्फ निष्क्रिय मध्यस्थों को ही सुरक्षित आश्रय प्रदान करती है. जब एकस अपने इंटरफ़ेस में ग्रोक को एकीकृत करता है, तो वो निर्माता होता है, ना कि माध्यम. डिजिटल व्यक्तिगत डेटा संरक्षण अधिनियम इस बात को और पुष्ट करता है. जब ग्रोक किसी वास्तविक व्यक्ति की तस्वीर का उपयोग हानिकारक सामग्री उत्पन्न करने के लिए करता है, तो ये डेटा प्रोसेस करना है. ऐसी स्थिति में धारा 79 द्वारा मिली छूट, डीपीडीपी अधिनियम द्वारा अपेक्षित जवाबदेही के साथ नहीं चल सकती. 

महत्वपूर्ण प्रश्न यह नहीं है कि कार्रवाई की जाए या नहीं, बल्कि अहम ये है कि यह है कि ये बात कौन तय करता है कि एआई सामग्री किसे माना जाए. भारत के एआई शासन दिशानिर्देशों द्वारा प्रस्तावित एआई सुरक्षा संस्थान को इस सामग्री की पहचान करने का काम सौंपा जा सकता है.

3. कंटेंट अपलोड करते समय अनिवार्य वॉटरमार्किंग 

आईटी नियमों में फरवरी 2026 में किए गए संशोधन के अनुसार, एआई द्वारा निर्मित सामग्री के लिए मेटाडेटा ट्रेसिंग अनिवार्य है, जो एक सकारात्मक कदम है. हालांकि, इसमें ये परिभाषित नहीं किया गया है कि यह ट्रेसिंग कैसे काम करेगी. कंटेंट में वॉटरमार्किंग दुष्प्रचार को रोकने में सहायक हो सकती है, क्योंकि इससे ट्रेसिंग आसान हो जाएगी.

4.आईटी एक्ट में संकटकालीन दुष्प्रचार प्रोटोकॉल को शामिल करें

धारा 69-ए[3] राष्ट्रीय सुरक्षा, सार्वजनिक व्यवस्था या संप्रभुता के हित में सामग्री को ब्लॉक करने का अधिकार प्रदान करती है, लेकिन इसपर तेज़ी से काम करने की ज़रूरत है. उदाहरण के लिए, पहलगाम हमले के दौरान, जब तक पीआईबी ने एआई दुष्प्रचार की पहचान की, तब तक फेक कंटेंट अपना काम कर चुका था. महत्वपूर्ण प्रश्न यह नहीं है कि कार्रवाई की जाए या नहीं, बल्कि अहम ये है कि यह है कि ये बात कौन तय करता है कि एआई सामग्री किसे माना जाए. भारत के एआई शासन दिशानिर्देशों द्वारा प्रस्तावित एआई सुरक्षा संस्थान को इस सामग्री की पहचान करने का काम सौंपा जा सकता है.

^[1] The Information Technology (Intermediary Guidelines and Digital Media Ethics Code) Rules, 2021, implemented by India on February 25, 2021, regulate social media, digital news, and OTT platforms.

^[2] Section 79 in The Information Technology Act, 2000 Exemption from liability of intermediary in certain cases.

^[3] Section 69A in The Information Technology Act, 2000, Power to issue directions for blocking for public access of any information through any computer resource.

^[4] A Significant Social Media Intermediary (SSMI) in India is a social media platform with over 5 million registered users, subject to stricter compliance under the IT Rules 2021.