লিঙ্গ বৈষম্য উদীয়মান জেনারেটিভ এআই ব্যবস্থার একটি অবিচ্ছেদ্য অংশ হয়ে ওঠার আগে জেন্ডার ডেটা গ্যাপ বা লিঙ্গ সংক্রান্ত তথ্যের ব্যবধান পূরণ করার জন্য সমন্বিত প্রচেষ্টা দরকার।
লেখকের জেনারেটিভ এআই ইমেজ ভারিয়া শ্রীবাস্তব প্রণোদিত এবং ডিএএলএল-২ দ্বারা নির্মিত।
জেনারেটিভ এআই ২০২২ সালের শেষ থেকে গোটা বিশ্বে ঝড় তুলেছে। এটি শুধু মাত্র কৃত্রিম বুদ্ধিমত্তার (এআই) বর্তমান অবস্থা এবং ভবিষ্যৎ গতিপথকেই প্রভাবিত করে না, বরং প্রযুক্তির সঙ্গে মানুষের সম্পৃক্ততার পদ্ধতিতে অপ্রত্যাশিত পরিবর্তন আনতে বিভিন্ন ক্ষেত্র জুড়ে প্রসারিত হচ্ছে। যদিও এর ফলে জেনারেটিভ এআই-এর সঙ্গে বা তার সংশ্লিষ্ট অঞ্চল জুড়ে, বিশেষ করে সৃজনশীল ক্ষেত্রে কাজ করার নতুন উপায়ের সূচনা হয়েছে, কিন্তু তা সত্ত্বেও এটি আবারও গভীর প্রোথিত এআই-সম্পর্কিত ত্রুটি এবং নকল, ভুল তথ্য এবং পক্ষপাতিত্ব সম্পর্কিত উদ্বেগের বিপদসঙ্কেত দর্শিয়েছে।
লিঙ্গগত পক্ষপাতগুলি নিয়ে বারবার আলোচনা করা হলেও খুব কম ক্ষেত্রেই এআই ব্যবহারের বাই-প্রোডাক্ট বা উপজাত পণ্য হিসেবে তার সমাধান করা হয়েছে। স্ট্যানফোর্ড সোশ্যাল ইনোভেশন রিভিউ-তে ১৯৮৮ সাল থেকে ২০২১ সাল পর্যন্ত বিভিন্ন অর্থনৈতিক ক্ষেত্রে নিয়োজিত ১৩৩টি এআই ব্যবস্থার উপর সর্বজনীন ভাবে উপলব্ধ তথ্য সংক্রান্ত একটি সমীক্ষায় ৪৪ শতাংশ লিঙ্গ পক্ষপাত এবং ২৬ শতাংশ লিঙ্গ ও জাতিগত উভয় পক্ষপাত প্রদর্শন করেছে। এআই ব্যবস্থায় দেখা যায়, এই লিঙ্গ পক্ষপাত নারীদের উপর বিভিন্ন ধরন এবং মাত্রার প্রভাব ফেলেছে, যার মধ্যে রয়েছে কুসংস্কারপূর্ণ নিয়োগের ব্যবস্থা, যা শুধু নারীত্বের জন্যই নারীদের আবেদনকারী গোষ্ঠী থেকে বাতিল করে দেয়। এবং পণ্য ও পরিষেবাগুলি নারীদের অভিজ্ঞতার কথা মাথায় রেখে পরিকল্পনাই করা হয়নি। তাঁদের বাদ দেওয়ার ফলে সৃষ্ট ক্ষতির ভার শুধু মাত্র নারীদেরই বহন করতে হচ্ছে।
লেনসা এআই, একটি ভাইরাল অবতার তৈরির অ্যাপ যা জেনারেটিভ এআই সফ্টওয়্যারে কাজ করে, সেটিতে নির্মিত নারীদের চিত্রগুলি হাইপারসেক্সুয়ালাইজ বা অতিযৌনকরণ এবং ফেটিশাইজ বা কামনার বিকৃতিকরণের জন্যই পরিচিত। অন্য দিকে পুরুষদের ছবিগুলি যোদ্ধা এবং মহাকাশচারীদের মতো সাধারণ পুরুষালি অবতারেই তৈরি করা হয় এবং সেখানে কোনও অতিরিক্ত নগ্নতা প্রদর্শন করা হয় না।
জেনারেটিভ এআই, যাকে এআই ব্যবস্থার বহু শক্তিশালী এবং বহুমুখী প্রতিরূপ হিসেবে স্বীকৃতি দেওয়া হয়েছে, দুর্ভাগ্যবশত সেটিও লিঙ্গ পক্ষপাত থেকে সম্পূর্ণ মুক্ত নয়। প্রকৃত পক্ষে, একটি প্রায় সম্পূর্ণ রূপে তত্ত্বাবধানহীন স্ব-শিক্ষার লার্জ ল্যাঙ্গোয়েজ মডেলের (এলএলএম) দরুন উচ্চতর ‘সৃজনশীল’ ক্ষমতার কারণে জেনারেটিভ এআই বিদ্যমান লিঙ্গ পক্ষপাতগুলিকে এমন একটি বিন্দুতে দ্রুত গতিতে নামিয়ে আনে, যেখানে সেগুলি ভয়াবহ বাস্তবতার চেয়েও অতিরঞ্জিত।
উদাহরণ স্বরূপ বলা যায়, একজন প্রকৌশলীকে প্রদর্শনের জন্য জেনারেটিভ এআই-ভিত্তিক ইমেজ জেনারেশন সফ্টওয়্যার স্টেবল ডিফিউশনকে প্রম্পট বা আদেশ দিলে শুধু মাত্র পুরুষদের ছবিই ফুটে ওঠে, যদিও নারীরা প্রকৃতপক্ষে সংখ্যায় ইঞ্জিনিয়ারদের প্রায় এক পঞ্চমাংশ। বিভ্রান্তি ছাড়াও জেনারেটিভ এআই-এর একটি অপ্রতিরোধ্য পুরুষ দর্শকদের পরিবেশন করার প্রবণতাও রয়েছে। লেনসা এআই, একটি ভাইরাল অবতার তৈরির অ্যাপ যা জেনারেটিভ এআই সফ্টওয়্যারে কাজ করে, সেটিতে নির্মিত নারীদের চিত্রগুলি হাইপারসেক্সুয়ালাইজ বা অতিযৌনকরণ এবং ফেটিশাইজ বা কামনার বিকৃতিকরণের জন্যই পরিচিত। অন্য দিকে পুরুষদের ছবিগুলি যোদ্ধা এবং মহাকাশচারীদের মতো সাধারণ পুরুষালি অবতারেই তৈরি করা হয় এবং সেখানে কোনও অতিরিক্ত নগ্নতা প্রদর্শন করা হয় না।
লেখকের ধারণাকৃত ‘জেন্ডার-এটিভ এআই’-এর (অর্থাৎ এমন সব জেনারেটিভ এআই সিস্টেম যা স্পষ্ট ভাবে লিঙ্গ পক্ষপাতমূলক) সঙ্গে সাম্প্রতিকতম সংযোজনটি হল অত্যন্ত জনপ্রিয় জেনারেটিভ এআই ভার্চুয়াল অ্যাসিস্ট্যান্ট চ্যাপজিপিটি-র উন্নততর রূপ চ্যা্টজিপিটি-৪। এটি যে পাঠ্যটি তৈরি করে, তা নারীদের বিরুদ্ধে প্রথাগত ধারণাগুলি প্রচার করার জন্য পরিচিত এবং এই প্রসঙ্গে ওপেনএআই-এর ঝুঁকি মূল্যায়ন সত্ত্বেও তা ঠিক করা হয়নি।
সদ্যোজাত এবং সর্বদা বিকাশমান জেনারেটিভ এআই পরিসরে পুনরাবৃত্ত এবং বিরক্তিকর লিঙ্গ পক্ষপাতগুলি একটি মৌলিক স্তরে এগুলির সমাধানে একটি পদ্ধতিগত ত্রুটির দিকেই নির্দেশ করে। ডিপ নিউরাল নেটওয়ার্ক বা গভীর স্নায়বিক সংযোগ ব্যবস্থা ব্যবহারের মাধ্যমে এলএলএম দ্বারা তথ্যের বিশেষ প্রক্রিয়াকরণই জেনারেটিভ এআই-তে লিঙ্গ পক্ষপাতকে স্থায়ী করার প্রবণতা দর্শালেও তাদের উদ্ভবের মূল কারণ হল জনপরিসরে উপলব্ধ ভুল উপস্থাপনামূলক বা এমনকি সূক্ষ্ম অনৈতিক ডেটাসেটের ব্যবহার। উদাহরণ স্বরূপ বলা যায়, জেনারেটিভ এআই প্রশিক্ষণমূলক ডেটাসেটগুলি বাঁধাধরা ভুল এবং অশ্লীল চিত্র অন্তর্ভুক্ত করার জন্য পরিচিত, যার ফলে উপরে বর্ণিত আউটপুটগুলির ধরন ভিন্ন ভাবে উপস্থাপিত হয়।
সদ্যোজাত এবং সর্বদা বিকাশমান জেনারেটিভ এআই পরিসরে পুনরাবৃত্ত এবং বিরক্তিকর লিঙ্গ পক্ষপাতগুলি একটি মৌলিক স্তরে এগুলির সমাধানে একটি পদ্ধতিগত ত্রুটির দিকেই নির্দেশ করে।
এটি সাধারণত উপলব্ধ লিঙ্গ-প্রতিনিধিমূলক ডেটাসেট বা তথ্যভাণ্ডারের লক্ষ্যণীয় অভাব এবং লিঙ্গ-বিচ্ছিন্ন তথ্য সংগ্রহ ও বিশ্লেষণের অত্যধিক কম অগ্রাধিকারের কারণে উদ্ভূত হয়। প্রায়শই লিঙ্গ-ইতিবাচক অনুশীলনের অনুপস্থিতি এবং/অথবা পরিসর জুড়ে অগ্রাধিকার সচেতন ভাবে প্রয়োগকৃত সিদ্ধান্ত নয়। তবে নারী নেতৃত্বের স্পষ্ট অভাবের কারণে এ হেন তত্ত্বাবধান আমূল ও তৃণমূল স্তরের পরিবর্তনগুলিকে প্রাতিষ্ঠানিক রূপ দিতে পারে। পরিস্থিতি এতটাই ভয়াবহ যে, ব্রিটেনে যত সংখ্যক নারী সিইও রয়েছেন, তার চেয়ে অনেক বেশি পিটার নামের সিইও রয়েছেন এবং ২০২৩ সালে প্রায় ১০টি ইউরোপীয় দেশে সংশ্লিষ্ট সাধারণ নামের পুরুষদের ক্ষেত্রে একই ধরনের অত্যাশ্চর্য পরিসংখ্যান পরিলক্ষিত হয়েছে।
সামগ্রিক ভাবে প্রযুক্তিতে নারীদের হতাশাজনক হার ছাড়াও বিশেষ করে সফ্টওয়্যার উন্নয়নকারী শিল্প প্রায় ৯২ শতাংশ পুরুষ নিয়ে গঠিত, যা জেনারেটিভ এআই-এর মতো উদীয়মান অভিন্ন সাধারণ উদ্দেশ্যমূলক প্রযুক্তিগুলিতে লিঙ্গ পক্ষপাতের উপস্থিতিকে দুর্ভাগ্যজনক এবং সম্পূর্ণ রূপে আশ্চর্যজনক করে তোলে। গণমাধ্যম এবং সৃজনশীল শিল্পে বৃহত্তর জনসাধারণের দ্বারা এই প্রযুক্তিগুলির জনপ্রিয় ব্যবহারে নারীর অভাবও প্রযুক্তিতে নারীদের ক্রমাগত অদৃশ্যতার সঙ্গে সংযুক্ত। সাম্প্রতিক একটি সমীক্ষায় দেখা গিয়েছে যে, মূল চলচ্চিত্রে ১১৬ জন এআই পেশাদারদের মধ্যে মাত্র ন’জন ছিলেন নারী, যাঁদের অর্ধেককে পুরুষ সহকর্মীদের অধীনস্থ বা প্রকৃত পেশাদারদের ব্যঙ্গচিত্র হিসাবে চিত্রিত করা হয়েছিল।
গণমাধ্যম এবং সৃজনশীল শিল্পে বৃহত্তর জনসাধারণের দ্বারা এই প্রযুক্তিগুলির জনপ্রিয় ব্যবহারে নারীর অভাবও প্রযুক্তিতে নারীদের ক্রমাগত অদৃশ্যতার সঙ্গে সংযুক্ত।
নারীদের অভাব এবং জেনারেটিভ এআই পরিসরে প্রতিনিধিত্বের ফলে উদ্ভূত সমস্যা নতুন বা একচেটিয়া নয়। ফলে এর সমাধানগুলিও স্পষ্ট। জেনারেটিভ এআই বা নারী-নির্দিষ্ট জেনারেটিভ এআই সফ্টওয়্যারগুলির জন্য লিঙ্গ পক্ষপাত কমানোর সাধনীগুলির মতো উদ্ভাবনী পদ্ধতির পাশাপাশি, লিঙ্গ পক্ষপাতমূলক উদীয়মান জেনারেটিভ এআই বাস্তুতন্ত্রের একটি অবিচ্ছেদ্য উপাদান হয়ে ওঠার আগে লিঙ্গভিত্তিক তথ্য সংক্রান্ত ব্যবধান ঘোচানোর জন্য একটি সমন্বিত প্রচেষ্টা অপরিহার্য। প্রযুক্তি শিল্প, বিশেষ করে লিঙ্গ-সংবেদনশীল প্রশিক্ষণ থেকেও উপকৃত হতে পারে। এর পাশাপাশি নারী ও পেশাদারদের নিয়োগ এবং পদোন্নতি করার বিষয় সম্পর্কে যাঁরা অবগত, তাঁরা স্পষ্টতই এ বিষয়ে ওয়াকিবহাল যে, এই প্রচেষ্টাগুলির স্থিতিশীলতা সুনিশ্চিত করার জন্য লিঙ্গ-প্রযুক্তি সম্পর্ক অত্যন্ত গুরুত্বপূর্ণ।
শিমোনা মোহন অবজার্ভার রিসার্চ ফাউন্ডেশনের সেন্টার ফর সিকিউরিটি, স্ট্র্যাটেজি অ্যান্ড টেকনোলজি-র (সিএসএসটি) রিসার্চ অ্যাসিস্ট্যান্ট।
The views expressed above belong to the author(s). ORF research and analyses now available on Telegram! Click here to access our curated content — blogs, longforms and interviews.
Shimona Mohan is a Junior Fellow in the Centre for Security Strategy and Technology (CSST) at ORF. Her areas of research include the multifarious intersections ...
Read More +
PREV