Author : Shimona Mohan

Published on May 01, 2023 Commentaries 0 Hours ago

AI सिस्टीममध्ये दिसणार्‍या या लिंगभेदाचा महिलांवर विविध प्रकार आणि स्तरांवर प्रभाव पडला आहे, ज्यात पूर्वग्रहदूषित नियुक्ती प्रणालीपासून स्त्रियांना होणारे अनन्य नुकसान होऊ शकते.

AI लिंगभेदाचा महिलांवर विविधस्तरांवर प्रभाव

जनरेटिव्ह AI ने 2022 च्या अखेरीपासून जगाला झंझावात घेतले आहे. ते केवळ कृत्रिम बुद्धिमत्ता (AI) च्या वर्तमान स्थितीवर आणि भविष्यातील मार्गावरच परिणाम करत नाही तर लोक तंत्रज्ञानाशी संलग्न होण्याच्या मार्गात अनपेक्षित बदल घडवून आणण्यासाठी विविध क्षेत्रांमध्ये देखील बदल करत आहेत. याचा परिणाम म्हणजे जनरेटिव्ह AI सह किंवा त्याच्या आसपास काम करण्याचे नवीन मार्ग, विशेषत: सर्जनशील क्षेत्रांसाठी, याने (पुन्हा) AI-संबंधित कमतरता आणि खोल बनावट, चुकीची माहिती आणि पूर्वाग्रह यांच्याशी संबंधित चिंतांवर (पुन्हा) अलार्म वाजविला आहे.

लिंग पूर्वाग्रह, विशेषत:, एआयच्या वापराच्या उप-उत्पादनाचे वारंवार उद्धृत केले गेले आहे परंतु कमी वेळा निराकरण केले गेले आहे. स्टॅनफोर्ड सोशल इनोव्हेशन रिव्ह्यूमध्ये, 1988 ते 2021 पर्यंत विविध आर्थिक क्षेत्रांमध्ये तैनात केलेल्या 133 AI प्रणालींवरील सार्वजनिकपणे उपलब्ध माहितीच्या अभ्यासात असे आढळून आले की 44 टक्के लिंग पूर्वाग्रह आणि 26 टक्के लिंग आणि जातीय पूर्वाग्रह प्रदर्शित करतात. AI सिस्टीममध्ये दिसणार्‍या या लिंगभेदाचा महिलांवर विविध प्रकार आणि स्तरांवर प्रभाव पडला आहे, ज्यात पूर्वग्रहदूषित नियुक्ती प्रणालीपासून ते महिलांना त्यांच्या लिंगाव्यतिरिक्त कोणत्याही कारणाशिवाय काढून टाकले जाते, उत्पादने आणि सेवा महिलांचा अनुभव लक्षात घेऊन डिझाइन केल्या जात नाहीत.त्यांच्या वगळण्याच्या परिणामी स्त्रियांना होणारे अनन्य नुकसान होऊ शकते.

Lensa AI, जनरेटिव्ह AI सॉफ्टवेअरवर चालणारे एक व्हायरल अवतार निर्मिती अॅप, महिलांच्या प्रतिमेचे अतिलैंगिकीकरण करण्यासाठी ओळखले जाते, तर पुरुषांच्या प्रतिमा कोणत्याही नग्नतेशिवाय योद्धा आणि अंतराळवीरांसारख्या सामान्यत: मर्दानी अवतारांमध्ये तयार केल्या जातात.

जनरेटिव्ह एआय, ज्याला एआय सिस्टीमचा अधिक शक्तिशाली आणि बहुमुखी प्रतिरूप म्हणून गौरवण्यात आले आहे, दुर्दैवाने लिंग पूर्वाग्रहांपासून मुक्त राहिले नाही. किंबहुना, जवळजवळ पूर्णपणे पर्यवेक्षण न केलेल्या स्वयं-शिक्षण लार्ज लँग्वेज मॉडेल (LLM) मुळे त्याची उच्च ‘सर्जनशील’ क्षमता लक्षात घेता, जनरेटिव्ह AI विद्यमान लिंग पूर्वाग्रहांना अशा बिंदूपर्यंत तीव्रतेने बिघडवण्यासाठी ओळखले जाते जिथे ते गंभीर वास्तवांच्या पलीकडे देखील अतिशयोक्तीपूर्ण आहेत.

उदाहरणार्थ, अभियंता प्रदर्शित करण्यासाठी जनरेटिव्ह AI-आधारित प्रतिमा निर्मिती सॉफ्टवेअर स्थिर प्रसार प्रॉम्प्ट केल्याने केवळ पुरुषांच्याच प्रतिमा मिळतात, जरी प्रत्यक्षात स्त्रिया अभियंत्यांपैकी एक पंचमांश आहेत. दिशाभूल करण्याव्यतिरिक्त, जनरेटिव्ह AI ची प्रवृत्ती पुरुष प्रेक्षकांना पूर्ण करण्याची देखील प्रवृत्ती आहे. Lensa AI, जनरेटिव्ह AI सॉफ्टवेअरवर चालणारे एक व्हायरल अवतार निर्मिती अॅप, महिलांच्या प्रतिमेचे अतिलैंगिकीकरण आणि उत्सर्जन करण्यासाठी ओळखले जाते, तर पुरुषांच्या प्रतिमा कोणत्याही नग्नतेशिवाय योद्धा आणि अंतराळवीरांसारख्या सामान्यत: मर्दानी अवतारांमध्ये तयार केल्या जातात.

ChatGPT-4, अत्यंत लोकप्रिय जनरेटिव्ह AI व्हर्च्युअल असिस्टंट ChatGPT पासून एक पायरीवर आलेली, लेखकाने ‘जेंडर-एटिव्ह एआय’ अर्थात जनरेटिव्ह एआय सिस्टीम ज्या स्पष्टपणे लिंग पूर्वाग्रही आहेत असे मानतात त्यात नवीनतम जोड आहे. ते व्युत्पन्न केलेल्या मजकुरामध्ये स्त्रियांच्या विरूद्ध परिचित रूढीवाद पेडल करण्यासाठी ओळखले जाते, जे या संदर्भात OpenAI चे जोखीम मूल्यांकन असूनही निश्चित केले गेले नाही.

नवजात आणि सतत विकसित होत असलेल्या जनरेटिव्ह एआय डोमेनमधील आवर्ती आणि त्रासदायक लिंग पूर्वाग्रह मूलभूत स्तरावर या पूर्वाग्रहांच्या निराकरणातील प्रणालीगत दोषाकडे निर्देश करतात. डीप न्यूरल नेटवर्क्सच्या वापराद्वारे LLMs द्वारे माहितीची विशिष्ट प्रक्रिया जनरेटिव्ह AI मध्ये लैंगिक पूर्वाग्रह कायम ठेवण्याकडे झुकत असताना, त्यांच्या उदयाचे मूळ कारण सार्वजनिक डोमेनमध्ये उपलब्ध असलेल्या चुकीचे प्रतिनिधित्व किंवा अगदी सीमारेषेवरील अनैतिक डेटासेटचा वापर आहे. जनरेटिव्ह एआय प्रशिक्षण डेटासेट, उदाहरणार्थ, घातक स्टिरियोटाइप आणि स्पष्ट प्रतिमा समाविष्ट करण्यासाठी ओळखले जातात, परिणामी वर वर्णन केलेल्या प्रकारचे आउटपुट होते.

नवजात आणि सतत विकसित होत असलेल्या जनरेटिव्ह एआय डोमेनमधील आवर्ती आणि त्रासदायक लिंग पूर्वाग्रह मूलभूत स्तरावर या पूर्वाग्रहांच्या निराकरणातील प्रणालीगत दोषाकडे निर्देश करतात.

हे सहसा उपलब्ध लिंग-प्रतिनिधी डेटासेटच्या चिन्हांकित अभावामुळे आणि लिंग-विभक्त डेटा गोळा आणि विश्लेषित करण्याच्या कमी प्राधान्यामुळे होते. बर्‍याचदा, लिंग-सकारात्मक पद्धतींची अनुपस्थिती आणि/किंवा डोमेनवर प्राधान्यक्रम हा जाणीवपूर्वक लागू केलेला निर्णय नसून, वरपासून खालपर्यंत बदल संस्थात्मक करू शकतील अशा महिला नेत्यांच्या स्पष्ट अभावामुळे होणारे निरीक्षण आहे. परिस्थिती इतकी भीषण आहे की यूकेमध्ये पीटर नावाच्या सीईओ महिलांपेक्षा जास्त सीईओ आहेत आणि 2023 मध्ये सुमारे 10 युरोपियन देशांमध्ये संबंधित सामान्य पुरुषांच्या नावांसह अशीच मनाला चकित करणारी आकडेवारी पाहण्यात आली आहे.

एकूणच तंत्रज्ञानातील महिलांच्या निराशाजनक दरांव्यतिरिक्त, सॉफ्टवेअर विकसनशील उद्योगात, विशेषतः, सुमारे 92 टक्के पुरुषांचा समावेश आहे, ज्यामुळे जनरेटिव्ह AI सारख्या उदयोन्मुख सामान्य-उद्देश तंत्रज्ञानामध्ये लैंगिक पूर्वाग्रहांची उपस्थिती दुर्दैवी परंतु पूर्णपणे आश्चर्यकारक आहे. टी च्या लोकप्रिय समज मध्ये महिलांची कमतरता प्रसारमाध्यमे आणि सर्जनशील उद्योगांद्वारे मोठ्या लोकांद्वारे हे तंत्रज्ञान देखील तंत्रज्ञानातील महिलांच्या सतत अदृश्यतेमध्ये भर घालते. अलीकडील अभ्यासात असे दिसून आले आहे की प्रमुख चित्रपटांमधील 116 AI व्यावसायिकांपैकी केवळ नऊ महिला होत्या, ज्यापैकी निम्म्या पुरुष पात्रांच्या अधीन होत्या किंवा वास्तविक व्यावसायिकांचे व्यंगचित्र म्हणून चित्रित केले गेले होते.

प्रसारमाध्यमे आणि सर्जनशील उद्योगांद्वारे मोठ्या लोकांच्या या तंत्रज्ञानाच्या लोकप्रिय समजामध्ये महिलांची कमतरता देखील तंत्रज्ञानातील महिलांच्या सतत अदृश्यतेला जोडते.

महिलांची कमतरता आणि जनरेटिव्ह एआय डोमेनमध्ये प्रतिनिधित्वाची परिणामी समस्या ही नवीन किंवा अनन्य समस्या नाही, म्हणूनच त्यावरील उपाय देखील विपुल प्रमाणात स्पष्ट आहेत. जनरेटिव्ह एआय किंवा महिला-विशिष्ट जनरेटिव्ह एआय सॉफ्टवेअर्ससाठी जेंडर बायस मिटिगेशन टूल्स सारख्या नाविन्यपूर्ण पध्दतींव्यतिरिक्त, लिंग पूर्वाग्रह हा उदयोन्मुख जनरेटिव्ह एआय इकोसिस्टमचा अविभाज्य घटक बनण्यापूर्वी लिंग डेटामधील अंतर बंद करण्यासाठी एकत्रित प्रयत्न करणे आवश्यक आहे. विशेषत: टेक उद्योगाला लिंग-संवेदनशीलता प्रशिक्षण, तसेच या प्रयत्नांची शाश्वतता सुनिश्चित करण्यासाठी लिंग-तंत्रज्ञानाचा संबंध महत्त्वाचा आहे हे समजणाऱ्या महिला आणि व्यावसायिकांची नियुक्ती आणि उन्नती यांचाही फायदा होऊ शकतो.

शिमोना मोहन सेंटर फॉर सिक्युरिटी, स्ट्रॅटेजी अँड टेक्नॉलॉजी (CSST), ऑब्झर्व्हर रिसर्च फाउंडेशन येथे संशोधन सहाय्यक आहेत.

The views expressed above belong to the author(s). ORF research and analyses now available on Telegram! Click here to access our curated content — blogs, longforms and interviews.

Author

Shimona Mohan

Shimona Mohan

Shimona Mohan is a Junior Fellow in the Centre for Security Strategy and Technology (CSST) at ORF. Her areas of research include the multifarious intersections ...

Read More +