AI को विकसित करने की प्रक्रिया में इसकी डिज़ाइनिंग से लेकर इसे इस्तेमाल करने तक में लैंगिक असमानता साफ दिखती है. ज़रूरत इस बात की है कि एआई को लेकर भविष्य में जो कानून बनाए जाएं, उसमें इस समस्या पर बात हो और इसे दूर करने के उपाय किए जाएं.
ये लेख अंतर्राष्ट्रीय महिला दिवस सीरीज़ का हिस्सा है.
आर्टिफिशियल इंटेलिजेंस टूल को जब विकसित किया जाता है तब प्राथमिक आंकड़ों को एल्गोरिदम सिस्टम के ज़रिए ऐसी सूचनाओं में तब्दील किया जाता है, जो हमारे सवालों का व्यवहारिक समाधान दे सके. इस प्रक्रिया को तीन चरणों में बांट सकते हैं. AI को डिज़ाइन करना, विकसित करना और फिर इस्तेमाल करना. डिज़ाइन की प्रक्रिया के दौरान ये पता लगाया जाता है कि इसकी ज़रूरत क्यों है. फिर आंकड़े जुटाने और उनकी जांच-परख करने का काम किया जाता है. विकास की प्रक्रिया के दौरान आंकड़ों के साथ प्रयोग किए जाते हैं. ये जांच की जाती है कि अंतिम नतीजे देने के लिए कौन सा मॉडल सही होगा. फिर उसका मूल्यांकन किया जाता है. जब ये उम्मीदों पर खरा उतरता है तो उसे इस्तेमाल में लाया जाता है. चूंकि एआई लाइव डेटा का भी इस्तेमाल करता है इसलिए इसकी लगातार निगरानी भी करनी पड़ती है जिससे वो गलत नतीजे ना दे.
AI की निष्पक्षता को लेकर जो शोध किए गए हैं, उनमें कुछ मामलों में ये पाया गया है कि कई बार इनमें ऐसे डेटा की घुसपैठ हो जाती है, जो पक्षपातपूर्ण और पूर्वाग्रह से ग्रसित होते हैं. ये पूर्वाग्रह किसी समुदाय को लेकर हो सकता है या लैंगिक असमानता को लेकर हो सकता है.
AI की निष्पक्षता को लेकर जो शोध किए गए हैं, उनमें कुछ मामलों में ये पाया गया है कि कई बार इनमें ऐसे डेटा की घुसपैठ हो जाती है, जो पक्षपातपूर्ण और पूर्वाग्रह से ग्रसित होते हैं. ये पूर्वाग्रह किसी समुदाय को लेकर हो सकता है या लैंगिक असमानता को लेकर हो सकता है. इसका सबसे बड़ा उदाहरण एआई टूल्स के डिज़ाइन और एल्गोरिदम के स्तर पर दिखता है. इस क्षेत्र में काम करने वालों में महिलाओं की संख्या बहुत कम है.
AI की एल्गोरिदम प्रक्रिया के दौरान समाज की जटिल सामाजिक वास्तविकताओं का कम्प्युटेशनल कोडिफिकेशन करने के साथ-साथ आंकड़ों का सार ग्रहण किया जाता है. इसका नतीजा ये होता है कि जो व्यक्ति एआई को डिज़ाइन करता है, उसकी धारणाएं और पूर्वाग्रह भी एल्गोरिदम में शामिल हो जाते हैं. ज़ाहिर है इससे AI के अंदर इसे बनाने वाले के विचार और दुनिया को लेकर उसकी राय भी आ जाती है. जो लोग एआई बनाने की प्रक्रिया में शामिल नहीं हैं, उनके अनुभव इसमें नहीं आ पाते. 2019 में यूनेस्को की रिपोर्ट “I’d blush if I could” में ये पाया गया कि एआई पर शोध को क्षेत्र में सिर्फ 6 प्रतिशत और AI विकसित करने की प्रक्रिया में महज 12 फीसदी महिलाएं शामिल हैं. तकनीक़ी विकास के मोर्चे पर महिलाओं की भागीदारी बहुत कम है. गूगल में तकनीक़ी खोज वाले क्षेत्र में महिलाओं की हिस्सेदारी सिर्फ 21 प्रतिशत है. इसमें में ‘मशीन लर्निंग’ का काम सिर्फ 10 फीसदी महिलाएं कर रही है. नई तकनीक़ के विकास में महिलाओं की इतनी कम हिस्सेदारी से ये ख़तरा पैदा हो सकता है कि जो नई तकनीक़ी खोजें होंगी, वो आधी आबादी यानी महिलाओं की उम्मीदों और उनकी ज़रूरतों को पूरा नहीं कर पाएंगी. AI विकसित करने की प्रक्रिया में पुरूषों की बहुत ज्य़ादा भागीदारी दशकों की उस सारी मेहनत पर पानी फेर सकती है जो महिलाओं और दूसरे लैंगिक समुदायों की हिस्सेदारी बढ़ाने पर की गई थी. एआई बनाने की प्रक्रिया महिला-पुरुषों की संख्या में अंतर का एक असर ये भी होता है कि ये समाज में भी लैंगिक असमानता बढ़ाती है क्योंकि एक बार विकसित हो जाने के बाद ये एआई टूल्स अपने आप से (ऑटोमेटिकली) काम करते हैं. कोई भी AI टूल्स तभी बेहतर तरीके से काम कर सकता है जब उसे विकसित करने की प्रक्रिया के दौरान उससे हर तरह की समस्या के समाधान पूछे जाएं. लेकिन जब डिज़ाइनिंग और डेवलपिंग की प्रक्रिया में एआई से इस तरह की समस्याओं के बारे में नहीं पूछा जाता तो इससे गड़बड़ी पैदा होती है.
गूगल में तकनीक़ी खोज वाले क्षेत्र में महिलाओं की हिस्सेदारी सिर्फ 21 प्रतिशत है. इसमें में ‘मशीन लर्निंग’ का काम सिर्फ 10 फीसदी महिलाएं कर रही है. नई तकनीक़ के विकास में महिलाओं की इतनी कम हिस्सेदारी से ये ख़तरा पैदा हो सकता है कि जो नई तकनीक़ी खोजें होंगी, वो आधी आबादी यानी महिलाओं की उम्मीदों और उनकी ज़रूरतों को पूरा नहीं कर पाएंगी.
AI विकसित करने की प्रक्रिया में महिलाओं के मुद्दों से जुड़े आंकड़ों को शामिल नहीं किए जाने ने इस समस्या को और बढ़ाया है. इसका सबसे ज्य़ादा असर तब दिखता है जब AI को सामाजिक परम्पराओं से जुड़े सवालों का जवाब देना होता है. ऐसे मुद्दों पर एआई का जवाब इस बात पर निर्भर करता है कि उसे बनाने में जाति, धर्म और लैंगिक सम्बंधी किन आंकड़ों का इस्तेमाल किया गया है. लैंडमार्क रिसर्च में पाया गया कि चेहरे की पहचान (फेशियल रिकगनेशन) में किस तरह AI अश्वेत महिलाओं के साथ भेदभाव करता है. अश्वेत महिलाओं के मामले में एआई की गलती की दर 34.7 प्रतिशत थी, जबकि श्वेत पुरुषों के मामले में महज 0.8 फीसदी की गलती हुई. इसी तरह नेचुरल लैंग्वेज प्रोसेसिंग पर गूगल न्यूज़ के एक लेख में महिलाओं और पुरुषों की रूढ़िवादी छवि को मजबूत किया गया. यहां पुरुष को डॉक्टर और महिला को नर्स के रूप में दिखाया गया. AI में आंकड़े डालते वक्त अगर किसी भी वर्ग, समुदाय की विशेषता को परिभाषित करने में पक्षपात किया गया तो फिर उसके नतीजे गलत आएंगे. नस्ल और समुदायों को लेकर पूर्वाग्रहों पर किए गए एक शोध में पाया गया कि एल्गोरिदम के क्षेत्र में मेक्सिकन-अमेरिकन महिलाओं का प्रदर्शन सबसे खराब रहा. तकनीक़ी विकास के काम से महिलाओं को बाहर रखने का नतीजा ये हुआ कि ये एआई टूल्स संकट में फंसी महिलाओं की मदद में नाकाम साबित होते हैं. इन्हें बलात्कार, करीबी साथी द्वारा महिला के खिलाफ की गई हिंसा और दिल के दौरा पड़ने की स्थिति में अंतर करना ही नहीं आता है.
AI की ट्रेनिंग का सबसे अहम हिस्सा इसमें इस्तेमाल किए जाने वाले आंकड़े हैं. इस स्तर पर सावधनी बरतने की ज़रूरत है. अमेज़न ने जब एआई की मदद बायोडाटा की जांच शुरू की तो ज्य़ादातर महिलाओं के बायोडाटा को खारिज़ कर दिया गया. इसकी वजह ये रही कि AI बनाते समय उसमें ये आंकड़े दिए गए कि इससे पहले इन क्षेत्रों में पुरूष ही सफल हुए थे. जबकि हकीकत ये है कि महिलाओं को पहले बेहतर शिक्षा के मौके नहीं मिलते थे, इसलिए वो पुरुषों के प्रभुत्व वाले क्षेत्रों में सफल नहीं हो सकीं थी. इसी तरह अगर हम बड़े अन्तर्राष्ट्रीय हवाई अड्डों पर लगे मिलीमीटर वेव बॉडी स्कैनर्स की बात करें तो वो ट्रांसजेंडर्स को नही पहचान पाते क्योंकि इन्हें महिला और पुरुष की पहचान करने की ही ट्रेनिंग मिली होती है. इसका नतीजा ये होता है कि ट्रांसजेंडर लोगों को कई बार अपमानजनक सुरक्षा जांच प्रक्रिया से गुजरना पड़ता है. इस तरह की समस्याएं कई मामलों में दिखती है. एआई की ट्रेनिंग में गलत आंकड़ों के इस्तेमाल से कई बार महिलाओं को लेकर बहुत पक्षपाती धारणाएं बन जाती हैं.
एक आम धारणा ये भी है कि पुरूषों की ह्रदय रोग होते हैं जबकि महिलाओं को मानसिक बीमारियों का सामना करना पड़ता है. ये सब अपुष्ट धारणाएं AI के विकास और उसकी ट्रेनिंग पर गंभीर असर डालती हैं.
एक सर्वे में ये पाया गया कि एक जैसी दुर्घटना होने पर पुरूषों की तुलना में महिलाओं के गंभीर रूप से घायल होने की आशंका 47 प्रतिशत और मौत होने की आशंका 17 प्रतिशत ज्य़ादा होती है. नतीजों में ये भेदभाव इसलिए दिखता है क्योंकि कार हादसे के दौरान सीट बेल्ट, एयर बैग्स और हेडरेस्ट को लेकर जो भी टेस्ट किए गए हैं, उनमें पुरूषों के पुतलों (डमी) का इस्तेमाल किया गया. इस बात की जांच नहीं की गई है महिलाओं के स्तन और उनका गर्भवती होना क्या असर डालते हैं. क्लीनिकल ट्रायल्स में भी गर्भवती, मीनोपॉज से गुजर चुकी और बर्थ कंट्रोल की दवाएं ले रही महिलाओं को शामिल नहीं किया जाता. एक आम धारणा ये भी है कि पुरूषों की ह्रदय रोग होते हैं जबकि महिलाओं को मानसिक बीमारियों का सामना करना पड़ता है. ये सब अपुष्ट धारणाएं AI के विकास और उसकी ट्रेनिंग पर गंभीर असर डालती हैं. इन आंकड़ों के आधार पर एआई जो नतीजे देता है, वो महिलाओं को लेकर पूर्वाग्रह से ग्रसित होते हैं. फिर यही पूर्वाग्रह संस्थागत रूप ले लेते हैं. इसका असर ये होता है कि एआई को विकसित करने की प्रक्रिया से महिलाओं को या तो पूरी तरह बाहर कर दिया जाता है, या उन्हें इसमें कम शामिल किया जाता है.
यूनेस्को ने एआई के क्षेत्र में लैंगिक समानता लाने को लेकर एक चर्चा का आयोजन किया. कई दूसरे संगठन भी इसे लेकर जागरूकता लाने का काम कर रहे हैं लेकिन एआई पर शोध कर रहे लोगों पर अब तक इसका बहुत सीमित असर दिखा है. कई बड़ी AI कंपनियां इसमें निष्पक्षता को बढ़ावा देने की कोशिश कर रही हैं, लेकिन वो किसी वर्ग या समुदाय की एक-दो विशेषताओं पर ही ध्यान दे रही हैं. AI क्षेत्र में फैसला लेने की प्रक्रिया में महिलाएं अब भी गायब हैं. हालांकि एआई को लेकर प्रस्तावित विधेयक में इन ज़ोखिमों को कम करने पर बात की गई है लेकिन कई अहम मुद्दे अब भी चर्चा से दूर हैं. AI को लेकर बनाई जा रही नीति, नियमन और विधेयक में लैंगिक समानता पर अभी बहुत कम बात हुई है. इसे लेकर नीति बनाने से पहले इस बात का गहराई से विश्लेषण करना होगा कि लैंगिक भेदभाव कितने बड़े पैमाने पर होता है. एआई के एल्गोरिदम में लैंगिक असमानता पर ज्य़ादा चर्चा इसलिए नहीं होती कि इस क्षेत्र में पारदर्शिता की कमी है. AI विकसित करने की प्रक्रिया में महिलाओं की कम भागीदारी ही ऐसी चीज है जो स्पष्ट तौर पर दिखती है. अब जबकि प्रस्तावित डिजिटल इंडिया एक्ट में एआई पर चर्चा हो रही है तो ज़रूरत इस बात की है कि इस क्षेत्र में लैंगिक समानता बढ़ाई जाए. इसके मानक जिम्मेदारी से तय किए जाएं. अगर किसी तरह का भेदभाव होता है तो उसे दूर करने के नियम कायदें हों. महिलाओं की भागीदारी बढ़े. अगर कहीं लैंगिक भेदभाव हो रहा हो तो तुरंत उसकी पहचान कर उसका समाधान किया जाए. आम लोगों तक इसकी पहुंच हों जिससे वो भी इसका मूल्यांकन कर सकें.
The views expressed above belong to the author(s). ORF research and analyses now available on Telegram! Click here to access our curated content — blogs, longforms and interviews.
Anulekha Nandi is a Fellow at ORF. Her primary area of research includes technology policy and digital innovation policy and management. She also works in ...
Read More +
PREV
