एल्गोरिदम के दौर में असली सुरक्षा क्या है?

दुनिया भर में बच्चों के डिजिटल अनुभवों पर कृत्रिम बुद्धिमत्ता (AI) के बढ़ते प्रभाव को लेकर जागरूकता में वृद्धि हुई है. एआई-जनित सामग्री के दुरुपयोग, ऑनलाइन निर्भरता, हानिकारक सामग्री के संपर्क, गलत जानकारी और एल्गोरिदम-आधारित प्लेटफॉर्म के मनोवैज्ञानिक प्रभाव जैसी चिंताओं ने सरकारों को कड़े नियामक कदमों पर विचार करने के लिए प्रेरित किया है.

ऑस्ट्रेलिया इस मामले में एक प्रमुख उदाहरण के रूप में सामने आया है, जहां कड़े आयु-सत्यापन नियम, अभिभावक की सहमति की व्यवस्था और कुछ क्षेत्रों में पूर्ण प्रतिबंध के प्रस्ताव जैसे नीति उपाय अपनाए गए हैं. यूनाइटेड किंगडम (UK) ने अपने ऑनलाइन सेफ्टी एक्ट के माध्यम से प्लेटफार्म पर बच्चों को हानिकारक सामग्री से बचाने के लिए सख्त जिम्मेदारियां लागू की हैं, जो एल्गोरिदमिक सिस्टम और स्वचालित कंटेंट क्यूरेशन तक भी लागू होती हैं. वहीं, यूरोपीय संघ का डिजिटल सर्विसेज एक्ट बड़े प्लेटफार्म को एल्गोरिदमिक डिज़ाइन से उत्पन्न जोखिमों सहित प्रणालीगत जोखिमों का आकलन करने और नाबालिगों की सुरक्षा पर विशेष ध्यान देने के लिए बाध्य करता है.

एआई-जनित सामग्री के दुरुपयोग, ऑनलाइन निर्भरता, हानिकारक सामग्री के संपर्क, गलत जानकारी और एल्गोरिदम-आधारित प्लेटफॉर्म के मनोवैज्ञानिक प्रभाव जैसी चिंताओं ने सरकारों को कड़े नियामक कदमों पर विचार करने के लिए प्रेरित किया है.

पहली नजर में ये उपाय तर्कसंगत लगते हैं, क्योंकि यदि डिजिटल वातावरण बच्चों को हानिकारक सामग्री या भ्रामक डिज़ाइन के संपर्क में लाते हैं, तो उनकी पहुंच सीमित करना जोखिम कम करने का सीधा तरीका प्रतीत होता है. आज डिजिटल तकनीकें युवाओं के दैनिक जीवन का अभिन्न हिस्सा बन चुकी हैं, और उन्हें पूरी तरह इनसे दूर रखने की कोशिशें अक्सर इस वास्तविकता को नजरअंदाज कर देती हैं कि बच्चे इंटरनेट का उपयोग कैसे करते हैं.

बैन से आगे सोचने की जरूरत

इस बहस में वर्तमान नीतियों की सबसे बड़ी समस्या यह मान लेना है कि बच्चों के डिजिटल जोखिम केवल सोशल मीडिया तक सीमित हैं. वास्तव में, बच्चों का डिजिटल वातावरण इन प्लेटफॉर्मों से कहीं अधिक व्यापक है. 2026 में अमेरिका के एक महत्वपूर्ण मामले में Meta और यूट्यूब को नशे जैसी लत पैदा करने वाले डिज़ाइन के कारण हुए नुकसान के लिए जिम्मेदार ठहराया गया, जिससे यह स्पष्ट हुआ कि जोखिम का दायरा कहीं बड़ा है.

इसी तरह का रुझान गेमिंग प्लेटफॉर्मों में भी देखने को मिलता है: जहां गेम खेलना अपने आप में हानिकारक नहीं होता, लेकिन ये प्लेटफॉर्म अब बातचीत और संवाद की सुविधा भी देते हैं, जिससे बच्चों को उत्पीड़न का सामना करना पड़ सकता है. शॉर्ट वीडियो प्लेटफॉर्म में खतरा सीधे लोगों से नहीं, बल्कि एआई की सिफारिशों से होता है, जो बच्चों को ज्यादा समय तक जोड़े रखती हैं. समस्या पूरे प्लेटफार्म में नहीं, कुछ फीचर्स में है. इसलिए सिर्फ बैन से समाधान नहीं होता, बच्चे दूसरे तरीकों से इन्हें इस्तेमाल कर लेते हैं.

शहर और गांव में डिजिटल अंतर

भारत के नजरिए से देखने पर प्रतिबंधों की सीमाएँ और भी स्पष्ट हो जाती हैं. बच्चों की ऑनलाइन सुरक्षा पर वैश्विक चर्चा का बड़ा हिस्सा उन विकसित देशों से आता है, जहां बच्चों के पास अक्सर व्यक्तिगत उपकरण होते हैं, अभिभावकीय निगरानी अधिक होती है और वयस्कों में डिजिटल साक्षरता का स्तर भी ऊँचा होता है.

वास्तव में, बच्चों का डिजिटल वातावरण इन प्लेटफॉर्मों से कहीं अधिक व्यापक है. 2026 में अमेरिका के एक महत्वपूर्ण मामले में Meta और यूट्यूब को नशे जैसी लत पैदा करने वाले डिज़ाइन के कारण हुए नुकसान के लिए जिम्मेदार ठहराया गया, जिससे यह स्पष्ट हुआ कि जोखिम का दायरा कहीं बड़ा है.

भारत का डिजिटल पारिस्थितिकी तंत्र संरचनात्मक रूप से अलग है. शहरी क्षेत्रों में बच्चों की उपकरणों तक पहुँच विकसित देशों के बराबर होती जा रही है-15–29 वर्ष के लगभग 97.6 प्रतिशत युवाओं के पास स्मार्टफोन हैं और अब किशोर, चालीस वर्ष के लोगों की तुलना में अधिक ऑनलाइन रहते हैं. लेकिन शहरों से बाहर स्थिति काफी अलग है. शहरी–ग्रामीण विभाजन स्पष्ट रूप से दिखाई देता है, जहां शहरी क्षेत्रों में इंटरनेट पहुंच लगभग 87 प्रतिशत  है, जबकि ग्रामीण क्षेत्रों में यह लगभग 71 प्रतिशत है. ग्रामीण और कम आय वाले परिवारों में कई बच्चे आज भी साझा पारिवारिक उपकरणों के माध्यम से इंटरनेट का उपयोग करते हैं, और यह अंतर आय, लिंग और शिक्षा के आधार पर और गहरा हो जाता है.

भारत में ऑनलाइन खतरों से निपटने के प्रयास पहले से ही जारी हैं, जिनमें केंद्र और राज्यों दोनों स्तरों पर पहलें शामिल हैं. सूचना प्रौद्योगिकी (मध्यस्थ दिशानिर्देश और डिजिटल मीडिया आचार संहिता) संशोधन नियम, 2021 और 2026 के संशोधन ने प्लेटफॉर्मों पर हानिकारक सामग्री के खिलाफ कार्रवाई की अधिक जिम्मेदारी डाली है, जिसमें सख्त हटाने के नियम और बढ़ी हुई सतर्कता आवश्यकताएँ शामिल हैं. 2026 का संशोधन एआई से जुड़े जोखिमों-जैसे डीपफेक और कृत्रिम सामग्री-को सीधे लक्षित करता है, जिसमें लेबलिंग और सत्यापन की बाध्यताएँ शामिल हैं. इस प्रकार ये नियम प्लेटफॉर्मों को केवल मध्यस्थ नहीं, बल्कि ऑनलाइन सामग्री की विश्वसनीयता के सक्रिय संरक्षक के रूप में स्थापित करते हैं. वहीं, कर्नाटक और आंध्र प्रदेश जैसे राज्यों ने नाबालिगों के सोशल मीडिया उपयोग पर प्रतिबंध और ऑनलाइन गेमिंग से जुड़े उपायों पर भी विचार किया है, जो लत और सुरक्षा से जुड़ी चिंताओं को दर्शाते हैं. भारत डिजिटल जोखिमों पर सक्रिय है, लेकिन ध्यान बच्चों के अनुभव समझने के बजाय केवल प्लेटफॉर्म नियंत्रण पर ज्यादा है.

असल समस्या क्या है?

असल चुनौती बच्चों की डिजिटल तकनीकों तक पहुँच में नहीं बल्कि उन्हें सुरक्षित और समझदारी से उपयोग करने की क्षमता में है. बच्चे डिजिटल सिस्टम से जल्दी जुड़ते हैं, पर उन्हें उनका काम समझ नहीं आता. जेनरेटिव एआई के बढ़ते उपयोग से यह जरूरी हो गया है, क्योंकि इसकी सामग्री भरोसेमंद दिखती है, भले गलत हो. यदि बच्चों को यह समझ नहीं है कि ऐसे सिस्टम जवाब कैसे तैयार करते हैं, तो वे जानकारी का सही मूल्यांकन नहीं कर पाते.

2026 का संशोधन एआई से जुड़े जोखिमों-जैसे डीपफेक और कृत्रिम सामग्री-को सीधे लक्षित करता है, जिसमें लेबलिंग और सत्यापन की बाध्यताएँ शामिल हैं. इस प्रकार ये नियम प्लेटफॉर्मों को केवल मध्यस्थ नहीं, बल्कि ऑनलाइन सामग्री की विश्वसनीयता के सक्रिय संरक्षक के रूप में स्थापित करते हैं.

इसलिए अब बच्चों को केवल बुनियादी डिजिटल साक्षरता नहीं, बल्कि यह भी सिखाने की जरूरत है कि एल्गोरिदम उनके सामने आने वाली जानकारी को कैसे प्रभावित करते हैं. उन्हें ऑनलाइन जानकारी की विश्वसनीयता परखने और गलत या भ्रामक सामग्री की पहचान करने की क्षमता होनी चाहिए. सकारात्मक बात यह है कि भारत इस दिशा में कदम उठा रहा है. राष्ट्रीय शिक्षा नीति (NEP) 2020 और राष्ट्रीय पाठ्यचर्या रूपरेखा के तहत स्कूल स्तर से ही एआई और कंप्यूटेशनल सोच को शिक्षा में शामिल करने, शिक्षकों को प्रशिक्षित करने और डिजिटल संसाधन उपलब्ध कराने की योजना बनाई गई है.

एआई के अलग जोखिम

कृत्रिम बुद्धिमत्ता (AI) बच्चों के डिजिटल अनुभवों को और अधिक जटिल बना देती है. पारंपरिक ऑनलाइन प्लेटफॉर्मों के विपरीत, एआई सिस्टम उपयोगकर्ता के व्यवहार के अनुसार खुद को बदल सकते हैं, जिससे बहुत व्यक्तिगत अनुभव बनते हैं. ये अनुभव आकर्षक तो होते हैं, लेकिन खासकर छोटे बच्चों के लिए कभी-कभी भ्रामक या प्रभाव डालने वाले भी हो सकते हैं. एआई की ‘खुश करने वाली’ प्रवृत्ति बच्चों में सहानुभूति के विकास को भी प्रभावित कर सकती है. इससे भी अधिक चिंताजनक बात यह है कि कुछ मामलों में एआई चैटबॉट्स ने बच्चों को आत्म-हानि के लिए उकसाया, दुर्व्यवहार को सामान्य बताया या अनुचित यौन टिप्पणियाँ की, जो बिना नियंत्रण के उपयोग के खतरे को दिखाता है.

असल सवाल यह नहीं है कि बच्चे तकनीक का उपयोग करेंगे या नहीं, बल्कि यह है कि वे इसे सुरक्षित तरीके से कैसे इस्तेमाल करें. भारत को प्लेटफॉर्म को सुरक्षित बनाना चाहिए और उन्हें पारदर्शी रखना चाहिए. माता-पिता को भी समझ बढ़ानी होगी. सिर्फ बैन से काम नहीं चलेगा, सही जानकारी और सीख ही बच्चों को सुरक्षित बनाएगी.

स्टैनफोर्ड के ब्रेनस्टॉर्म लैब और कॉमन सेंस मीडिया के एक हालिया अध्ययन में पाया गया कि Character.AI, Nomi और Replika जैसे एआई चैटबॉट्स बहुत कम निर्देश मिलने पर भी 14 साल के उपयोगकर्ता के साथ हानिकारक बातचीत कर सकते हैं. इन निष्कर्षों के आधार पर कॉमन सेंस मीडिया ने 18 वर्ष से कम उम्र के लोगों के लिए इनके उपयोग से बचने की सलाह दी है. एआई टूल्स जानकारी और निर्माण के बीच की सीमा को भी धुंधला कर देते हैं-बच्चे इनसे मिलने वाले जवाबों को तथ्य मान लेते हैं, जबकि वे केवल डेटा के आधार पर बनाए गए संभावित उत्तर होते हैं. इससे बच्चों की समझ पर असर पड़ता है कि ज्ञान, विशेषज्ञता और विश्वसनीयता क्या होती है.

भारत के लिए मौका

भारत के सामने एक महत्वपूर्ण नीति अवसर है. दुनिया की सबसे बड़ी युवा आबादी और तेजी से बढ़ते डिजिटल ढांचे के साथ, भारत बच्चों की ऑनलाइन सुरक्षा के लिए एक नया मॉडल विकसित कर सकता है. नई तकनीकों से बच्चों को बचाने की प्रवृत्ति स्वाभाविक है, क्योंकि तेज़ तकनीकी बदलाव अक्सर चिंता पैदा करते हैं, खासकर जब वे बच्चों के विकास से जुड़े हों. लेकिन इतिहास बताता है कि बच्चों को पूरी तरह नई तकनीकों से दूर रखना सफल नहीं होता.