जनरेटिव्ह AI ने दिशाभूल निर्माण आणि प्रसारावरील जुन्या मर्यादा पूर्णपणे मोडून काढल्या आहेत. आपण आता कृत्रिम नरेटिव्ह, डीपफेक्स आणि आकलनविषयक युद्धाच्या नव्या युगात प्रवेश करत आहोत.
जनरेटिव्ह AI ने दिशाभूलीवरील जुनी बंधने जसे की मानवी प्रयत्न, मर्यादित प्रसार आणि उच्च समन्वय खर्च यांना पूर्णपणे हटवले आहे. हे AI कमी खर्चात मोठ्या प्रमाणावर कंटेंट (साहित्य) तयार करण्यास सक्षम बनवते, निर्मिती आणि परिणाम यांतील वेळ कमी करते आणि मोजक्या घटकांना धोरणात्मक स्तरावर कार्य करण्याची क्षमता देते. हा लेख AI-आधारित दिशाभूल विद्यमान कायदेशीर चौकटींसमोर कोणती आव्हाने निर्माण करते याचे विश्लेषण करतो आणि विश्वास व सुरक्षिततेच्या तत्त्वांवर आधारित AI प्रशासन मॉडेल सुचवतो.
न्यूजगार्डच्या अहवालानुसार, AI-निर्मित न्यूज साईट्स म्हणजेच बातमी संकेतस्थळांची संख्या 16 भाषांमध्ये 2,089 पेक्षा जास्त झाली आहे. ही संकेतस्थळे जवळजवळ कोणत्याही मानवी देखरेखीशिवाय कार्य करतात. ऑगस्ट 2025 मध्ये प्रमुख चॅटबॉट्सनी 35 टक्के वेळा चुकीची माहिती दिली, जी एका वर्षापूर्वी 18 टक्के होती. प्लॅटफॉर्म्स अनेकदा सत्याऐवजी जास्त प्रतिसाद मिळवणाऱ्या कंटेंटला प्राधान्य देतात.
स्रोत: न्यूजगार्ड एआई मॉनिटर आणि एन्ट्रस्ट आयडेंटिटी फ्रॉड रिपोर्ट.
या बदलाचा वेग समजणे कठीण आहे. 2024 मध्ये दर पाच मिनिटांनी डीपफेक हल्ले होत होते. डिजिटल दस्तऐवज बनावटपणा एका वर्षात 244 टक्क्यांनी वाढला. “जे दिसते ते खरे” ही संकल्पना आता कमजोर होत आहे आणि तिचे रूपांतर “खोटेपणाच्या लाभांमध्ये” होत आहे. एखादा राजकारणी व्हिडिओमध्ये घोटाळ्यात अडकलेला दिसला तरी तो आता सहजपणे त्याला डीपफेक असल्याचा दावा करू शकतो.
सप्टेंबर 2025 मधील गोलॅक्सी (GoLaxy) खुलाश्यांनी या जगाची एक झलक दाखवली. बीजिंग स्थित GoLaxy या कंपनीतून लीक झालेल्या कागदपत्रांमध्ये “स्मार्ट प्रोपेगंडा सिस्टीम” उघडकीस आली. हे AI-आधारित व्यक्तिमत्त्वांचे एक जाळे आहे, जे खऱ्या लोकांसारखे दिसण्यासाठी आणि वागण्यासाठी तयार केलेले आहे. ही प्रणाली लाखो डेटा पॉइंट्सचा वापर करून लक्ष्य व्यक्तींची मानसशास्त्रीय प्रोफाइल तयार करते. ती परिस्थितीनुसार बदलते आणि विश्वास जिंकते. एका दस्तऐवजात दाखवले आहे की या प्रणालीने 2,000 सार्वजनिक व्यक्ती आणि अमेरिकन काँग्रेसच्या 117 सदस्यांना लक्ष्य केले. ही प्रणाली “LLM ग्रुमिंग” चा वापर करून शोध परिणामांमध्ये पक्षपाती माहिती भरते, ज्यामुळे लक्ष्य व्यक्ती एखाद्या विषयावर शोध घेतल्यास त्याला वरच्या निकालांमध्ये तयार केलेले खोटे नरेटिव्हच दिसते. हे म्हणजेच आकलनविषयक (काँग्निटीव्ह) युद्ध आहे.
भारत हा AI-निर्मित दिशाभूलसाठी सर्वाधिक असुरक्षित देशांपैकी एक आहे. भारतातील 47 टक्के प्रौढांनी AI-आधारित आवाज क्लोनिंग किंवा डीपफेक फसवणुकीचा अनुभव घेतला आहे, जे जागतिक सरासरी 25 टक्क्यांच्या जवळपास दुप्पट आहे. भारतातील प्रमुख तथ्य-पडताळणी संस्थांनी 2025 मध्ये मोठ्या प्रमाणावर वाढ नोंदवली. काढून टाकलेल्या (डीबन्क्ड) साहित्यापैकी 20 टक्क्यांहून अधिक साहित्य AI-निर्मित होते, जे मागील वर्षाच्या तुलनेत दुप्पट आहे. हा धोका दोन स्तरांवर कार्य करतो. एक राष्ट्रीय सुरक्षेच्या पातळीवर, जिथे संकटाच्या काळात वास्तविक परिस्थिती विकृत करण्यासाठी कृत्रिम सामग्री वापरली जाते, आणि वैयक्तिक सन्मानाच्या पातळीवर, जिथे AI-निर्मित दिशाभूल व्यक्तींविरुद्ध शस्त्र म्हणून वापरली जाते. मागील वर्षातील दोन ठळक उदाहरणे हे स्पष्ट करतात.
राष्ट्रीय सुरक्षा आता माहिती व्यवस्थेशी घट्ट जोडली गेली आहे. एप्रिल 22, 2025 रोजी काश्मीरमधील पहलगाम येथे झालेल्या दहशतवादी हल्ल्याने मोठ्या प्रमाणावर लक्ष वेधले. या हल्ल्यात 26 नागरिकांचा मृत्यू झाला. मात्र, त्यानंतर लगेचच माहिती युद्ध सुरू झाले. काही तासांतच टेलिग्राम आणि X (ट्विटर) सारख्या प्लॅटफॉर्म्सवर कृत्रिम नरेटिव्हचा पूर आला. डीपफेक व्हिडिओंमध्ये वरिष्ठ लष्करी अधिकारी “फॉल्स फ्लॅग” ऑपरेशन्सबद्दल बोलताना दाखवले गेले. AI-निर्मित प्रतिमांमध्ये मृतदेह आणि दहशतवादी दाखवून काल्पनिक लष्करी विजयाचे पुरावे सादर केले गेले. या प्रतिमांमध्ये धार्मिक आणि सांप्रदायिक प्रतीकांचा वापर करून तणाव अधिक वाढवण्याचा प्रयत्न करण्यात आला.
भारतीय सरकारच्या प्रेस इन्फॉर्मेशन ब्युरोने या संकटाच्या काळात दिशाभूल करणाऱ्या सात प्रमुख घटनांची नोंद केली. मात्र तोपर्यंत नुकसान झाले होते. खोट्या माहितीमुळे अधिकृत हस्तक्षेप उशिरा झाला आणि सुरक्षा दलांवरील लोकांचा विश्वास कमी झाला. विरोधी घटकांनी AI चा वापर करून शोक करणाऱ्या कुटुंबांचे फोटो विकृत नृत्य दृश्यांमध्ये रूपांतरित केले.
जानेवारी 2026 मध्ये X (ट्विटर) वर एका वापरकर्त्याला Grok (ग्रोक) AI द्वारे तयार केलेल्या दुष्प्रचारित माहितीचा सामना करावा लागला. एका व्यक्तीने तिच्या प्रोफाइल फोटोचा वापर करून AI ला सूचना (प्रॉम्प्ट) देऊन तिचे खोटे आणि अश्लील चित्र तयार केले. (Grok हे X मध्ये थेट समाविष्ट असल्यामुळे वापरकर्त्याला प्लॅटफॉर्म सोडण्याची गरज नसते.) वापरकर्त्याने ही तक्रार नोंदवली असता X ने सांगितले की हे त्यांच्या नियमांचे उल्लंघन करत नाही. त्यानंतर आरोपीने तिच्या वैयक्तिक इनबॉक्समध्ये आणखी बनावट चित्रे पाठवली. यानंतर मिनिस्ट्री ऑफ इलेक्ट्रॉनिक्स अँड आयटी (MeitY) ने X ला नोटीस बजावली, ज्यामध्ये इन्फॉर्मेशन टेक्नॉलॉजी ऍक्ट आणि आयटी रुल्स 2021 अंतर्गत आवश्यक दक्षता न पाळल्यास त्यांचे सेफ हार्बर संरक्षण रद्द होऊ शकते असा इशारा देण्यात आला. X चा प्रारंभिक प्रतिसाद “अपूरा” मानला गेला, आणि त्यानंतर Grok च्या रचना आणि फिल्टरिंग यंत्रणेबाबत पारदर्शकता मागणारी दुसरी नोटीस पाठवण्यात आली. यामुळे प्रतिक्रियात्मक सामग्री काढून टाकण्याऐवजी संरचनात्मक जबाबदारीकडे धोरणात्मक बदल दिसून आला.
स्तरबद्ध जोखीम वर्गीकरण चौकट तयार करणे
नोव्हेंबर 2025 मधील MeitY च्या AI गव्हर्नन्स गाईडलाईन्सने एक व्यापक चौकट दिली आहे. मात्र या मार्गदर्शक तत्त्वांना कायदेशीर बळ नाही. त्यामुळे भारतातील विशिष्ट जोखमींनुसार त्यांना बंधनकारक स्वरूप देण्याची गरज आहे. तीन प्रकारांमध्ये अनिवार्य पूर्व-अंमलबजावणी लागू होऊ शकते: सांप्रदायिक किंवा राष्ट्रीय सुरक्षेच्या संकटात AI-निर्मित सामग्री; वास्तविक व्यक्तींशी संबंधित ऑडिओ, व्हिडिओ किंवा प्रतिमा तयार करणारे AI; आणि निवडणुकीवर प्रभाव टाकण्यासाठी वापरले जाणारे AI. याखालील कमी जोखमीच्या अनुप्रयोगांसाठी स्वैच्छिक नियम लागू राहू शकतात. जितकी अपरिवर्तनीय हानी होण्याची शक्यता जास्त, तितक्या लवकर राज्याने हस्तक्षेप करणे आवश्यक आहे.
प्लॅटफॉर्म जबाबदारीचा पुनर्विचार
आयटी ॲक्टच्या कलम 79 अंतर्गत फक्त निष्क्रिय मध्यस्थांना संरक्षण दिले जाते. जेव्हा X सारखा प्लॅटफॉर्म Grok सारखे साधन स्वतःमध्ये समाविष्ट करतो, तेव्हा तो केवळ माध्यम राहत नाही तर निर्माता ठरतो. डिजिटल पर्सनल डेटा प्रोटेक्शन ॲक्टनुसार डेटा प्रक्रियेबाबत जबाबदारी डेटा विश्वस्त (fiduciary) यावर येते. Grok जेव्हा एखाद्या व्यक्तीच्या फोटोचा वापर करून हानिकारक सामग्री तयार करतो, तेव्हा ते डेटा प्रक्रिया मानले जाते आणि प्लॅटफॉर्म जबाबदार ठरतो. कलम 79 अंतर्गत दिलेले संरक्षण आणि DPDP ॲक्ट अंतर्गत अपेक्षित जबाबदारी एकत्र राहू शकत नाहीत. त्यामुळे आयटी रुल्स (नियम) मध्ये सुधारणा करून अशा प्लॅटफॉर्मना जे जनरेटिव AI साधने वापरतात त्यांना सेफ हार्बर न देण्याची गरज आहे. जे प्लॅटफॉर्म हे साधन तयार करतात, त्यांनी त्याच्या परिणामांची जबाबदारीही स्वीकारली पाहिजे.
अपलोडच्या वेळी अनिवार्य वॉटरमार्किंग
फेब्रुवारी 2026 मधील आयटी नियमांतील दुरुस्तीमध्ये AI-निर्मित सामग्रीसाठी मेटाडेटा ट्रेसिंगची तरतूद आहे, पण ती कशी लागू करावी याबाबत स्पष्टता नाही. दुसरीकडे, DPDP नियमांनुसार डेटा प्रक्रिया आणि AI-निर्मित सामग्रीची नोंद ठेवणे आवश्यक आहे. MeitY ने वॉटरमार्किंगसाठी किमान तांत्रिक मानके निश्चित करणारे बंधनकारक नियम जारी करावेत.
कलम 69A अंतर्गत संकटातील दिशाभूल नियंत्रण यंत्रणा
कलम 69A अंतर्गत राष्ट्रीय सुरक्षा किंवा सार्वजनिक सुव्यवस्थेसाठी सामग्री (कंटेंट) रोखण्याचा अधिकार दिला आहे. मात्र, त्यासाठी अधिक वेगवान अंमलबजावणी यंत्रणा आवश्यक आहे. पहलगाम प्रकरणात, PIB ने दिशाभूल ओळखण्यापर्यंत ती सामग्री म्हणजेच कंटेंट मोठ्या प्रमाणावर पसरला होता. अशा परिस्थितीत, अधिकृत आपत्कालीन घोषणेनंतर मोठ्या सोशल मीडिया प्लॅटफॉर्मनी निश्चित कालावधीत AI-आधारित तपासणी करून स्पष्टपणे कृत्रिम कंटेंट तात्पुरता रोखला पाहिजे. मात्र, कोणता कंटेंट कृत्रिम आहे हे ठरवण्याचा अधिकार त्याच संस्थेकडे नसावा ज्याने आपत्कालीन स्थिती घोषित केली. भारताच्या AI गव्हर्नन्स गाईडलाईन्स अंतर्गत प्रस्तावित AI सेफ्टी इन्स्टिट्यूट (AI सुरक्षा संस्था) ला ही जबाबदारी दिली जाऊ शकते, जी स्वतंत्रपणे तपासणी करून निकष ठरवेल.
पुरुषराज पटनाईक हे ऑब्झर्व्हर रिसर्च फाउंडेशनच्या सेंटर फॉर डिजिटल सोसायटीजमध्ये रिसर्च असिस्टंट आहेत.
The views expressed above belong to the author(s). ORF research and analyses now available on Telegram! Click here to access our curated content — blogs, longforms and interviews.
Purushraj Patnaik is a Research Assistant with the Centre for Digital Societies at Observer Research Foundation (ORF). His research focuses on the governance of emerging ...
Read More +
PREV
