ডিজাইন থেকে স্থাপনা পর্যন্ত এআই উন্নয়ন প্রক্রিয়া লিঙ্গ পক্ষপাতকে স্থায়ী করে। ভবিষ্যৎ আইনের উচিত এই লিঙ্গভিত্তিক ঝুঁকিগুলিকে প্রশমিত করার বিষয়টিকে স্বীকৃতি দেওয়া।
এই নিবন্ধটি আন্তর্জাতিক নারী দিবস সিরিজের অংশ
কৃত্রিম বুদ্ধিমত্তা বা আর্টিফিশিয়াল ইন্টেলিজেন্স (এআই) সিস্টেম তৈরি করার সময় কাঁচা ডেটা অ্যালগরিদমিক সিস্টেমের মাধ্যমে ব্যবহারিক সমাধানে রূপান্তরিত হয়। এই প্রক্রিয়াটিকে বিস্তৃতভাবে তিনটি ধাপে ভাগ করা যেতে পারে: নকশা, উন্নয়ন এবং স্থাপনা। যদিও ডিজাইনের ধাপে সমস্যা সংজ্ঞায়িত করা, ডেটা সংগ্রহ, প্রক্রিয়াকরণ ও প্রস্তুতি জড়িত থাকে, উন্নয়ন পর্বে পরীক্ষা ও মূল্যায়নের মাধ্যমে সঠিক মডেল নির্ধারণের জন্য ডেটা নিয়ে পরীক্ষা-নিরীক্ষা চলে। একবার মডেলটি প্রত্যাশিত কর্মক্ষমতার মানদণ্ড পূরণ করলে এটিকে অভীষ্ট প্রয়োগ পরিস্থিতিতে স্থাপন করা হয়, এবং এটি যে লাইভ ডেটা পাওয়ার পর প্রত্যাশিত ফলাফল তৈরি করে চলেছে তা নিশ্চিত করার জন্য পর্যবেক্ষণ করা হতে থাকে।
এআই ন্যায্যতার উপর গবেষণা — অর্থাৎ একাধিক প্রতিচ্ছেদ পরিচিতিমূলক বৈশিষ্ট্য বা ইন্টারসেকশনাল আইডেন্টিটি অ্যাট্রিবিউট দ্বারা প্রভাবিত জনসংখ্যাগত গোষ্ঠীগুলির উপর প্রতিকূল ফলাফল হ্রাস করার লক্ষ্য — এর জীবনচক্রের মধ্যে সেই ইন্টারফেস বা টাচ-পয়েন্টগুলিকে তুলে ধরে যেখান দিয়ে এআই সিস্টেমে প্রবেশ করে বর্জনীয় শর্তগুলি: যেমন পক্ষপাতদুষ্ট ডেটাসেটগুলির মাধ্যমে, প্রক্রিয়াকরণের পরামিতিগুলির মাধ্যমে, এবং লিঙ্গ-সংবেদনশীলতাহীন শ্রেণীবিভাগ ও লিঙ্গ-প্রতিক্রিয়াহীন মূল্যায়ন ও পরীক্ষার মাধ্যমে, যেগুলি বিদ্যমান পক্ষপাত পরিবর্ধনের দিকে পরিচালিত করে। এটি এআই কর্মিবাহিনীতে তির্যক লিঙ্গ ভারসাম্যের কারণে আরও বেড়েছে, যার এআই অ্যালগরিদমগুলির নকশা ও বাস্তবায়নের ক্ষেত্রে উল্লেখযোগ্য প্রভাব রয়েছে।
একবার মডেলটি প্রত্যাশিত কর্মক্ষমতার মানদণ্ড পূরণ করলে এটিকে অভীষ্ট প্রয়োগ পরিস্থিতিতে স্থাপন করা হয়, এবং এটি যে লাইভ ডেটা পাওয়ার পর প্রত্যাশিত ফলাফল তৈরি করে চলেছে তা নিশ্চিত করার জন্য পর্যবেক্ষণ করা হতে থাকে।
পদ্ধতিগত বর্জন
অ্যালগরিদমগুলি কম্পিউটেশনাল কোডিফিকেশন এবং জটিল সামাজিক বাস্তবতার গাণিতিক বিমূর্ততা উপস্থাপন করে। ফলস্বরূপ, অ্যালগরিদমিক অনুমান এবং পরামিতিগুলি যারা সেগুলি তৈরি করে সেই ডিজাইনারদের আত্মস্থ জ্ঞান ও মূল্যবোধ ব্যবস্থার প্রতিনিধিত্ব করে। এটি যে বিকাশকারীদের ব্যাখ্যার উপর নির্ভরশীল তা যেহেতু জ্ঞাত, তাই বলা যায় এটি ডিজাইনের সময়েই নির্দিষ্ট পরিপ্রেক্ষিত, বিশ্ব দৃষ্টিভঙ্গি এবং অন্যদের বাদ দিয়ে নিজের জীবনের অভিজ্ঞতার ভিত্তিগুলি এর মধ্যে অনুপ্রবেশ করে৷ ইউনেস্কো-র ২০১৯ রিপোর্ট " যদি পারতাম তবে লজ্জা পেতাম " দেখেছে যে এআই গবেষকদের মধ্যে মাত্র ১২ শতাংশ এবং পেশাদার সফটওয়্যার বিকাশকারীদের ৬ শতাংশ মহিলা৷ নারীরা মূলত ফ্রন্টিয়ার প্রযুক্তি উদ্ভাবন থেকে অনুপস্থিত, এবং গুগল-এ প্রযুক্তিগত ভূমিকার মাত্র ২১ শতাংশে নারীরা আছেন। এর মধ্যে, মাত্র ১০ শতাংশ মেশিন লার্নিংয়ে কাজ করছেন। এই কম উপস্থাপনা নতুন প্রযুক্তির বিকাশের ঝুঁকিকে তুলে ধরে, যা প্রায় অর্ধেক জনসংখ্যার চাহিদা পূরণ করে না। এ আই প্রযুক্তির নকশায় পুরুষদের অতি-প্রতিনিধিত্ব কয়েক দশকের অগ্রগতি এবং লিঙ্গ সমতার পক্ষে সমর্থনকে পূর্বাবস্থায় ফিরিয়ে নিয়ে যেতে পারে, যার ফলে এমন ব্যবস্থা তৈরি হয় যা নারী এবং অন্য লিঙ্গ সংখ্যালঘুদের অসুবিধার মধ্যে রাখে। ফলস্বরূপ, কম্পিউটেশনাল ডিজাইন সামাজিক বৈষম্যকে মূর্ত করতে থাকে, কারণ তারা স্বয়ংক্রিয়ভাবে এবং বারবার কাজ করে যেতে থাকে। যেখানে যেখানে এআই হস্তক্ষেপ করার লক্ষ্য রাখে সেখানে কার্যক্ষেত্রগত নির্ণায়ক বিন্দু বা সমস্যার জায়গাগুলি স্পষ্টভাবে বর্ণনা করতে হলে — যার ভিত্তি হল ডেটাসেটে কী অন্তর্ভুক্ত হয়েছে — বলতে হবে যা প্রশ্নাতীত বা যা উপেক্ষা করা যায় তা ক্ষমতার একটি রূপ হয়ে ওঠে। লিঙ্গ-প্রতিনিধিত্বহীন ও লিঙ্গ-বিচ্ছিন্ন ডেটাসেটের কারণে এটি আরও জটিল হয়ে উঠেছে। যাই হোক, এআই ফলাফল সামাজিক ফলাফলের মতোই মানুষের পরিচিতির বর্ণ, লিঙ্গ বা ধর্মের প্রতিচ্ছেদ বিন্দুগুলিকে জাত, লিঙ্গ বা ধর্মের ভিত্তিতে ‘হ্যাভ ও হ্যাভ–নট’ দিয়ে সংজ্ঞায়িত করে। ফেসিয়াল রেকগনিশন সিস্টেমে পক্ষপাতিত্বের উপর যুগান্তকারী গবেষণা এটাই তুলে ধরেছে যে কীভাবে এআই বাণিজ্যিক ফেসিয়াল রেকগনিশন সিস্টেমে মহিলা মুখগুলিকে ভুলভাবে শ্রেণীবদ্ধ করে: সবচেয়ে বেশি কালো চামড়ার মহিলা মুখগুলিকে, যেখানে ভুল শ্রেণিবদ্ধকরণে ৩৪.৭ শতাংশ পর্যন্ত ত্রুটির হার দেখা যায়, যার বিপরীতে হালকা-চর্মযুক্ত পুরুষদের ক্ষেত্রে ত্রুটির হার ০.৮ শতাংশ। ন্যাচারাল ল্যাঙ্গুয়েজ প্রসেসিং-এ যে শব্দগুলি গুগল নিউজ নিবন্ধগুলি দ্বারা প্রশিক্ষিত, সেগুলি সন্নিবদ্ধ লিঙ্গের স্টিরিওটাইপগুলিকে শক্তিশালী করেছে — যেখানে একজন ডাক্তার সব সময়েই হলেন পুরুষ এবং একজন নার্স বা অভ্যর্থনাকারী মানেই একজন মহিলা। এমনকি যখন ডেটাসেটগুলি পরিচয়ের একটি একক বৈশিষ্ট্য তুলে ধরে, তখন তাদের যথার্থতা এই বৈশিষ্ট্যগুলির সংযোগস্থলে হ্রাস পায়। উদীয়মান ছেদ-বিষয়ক পক্ষপাতের উপর একটি গবেষণা দেখায় যে মেক্সিকান-আমেরিকান মহিলাদের সবচেয়ে খারাপ অ্যালগরিদমিক কর্মক্ষমতা ছিল৷ প্রযুক্তির পাইপলাইনে নারীদের বাদ দেওয়া হলে তা প্রতিকূল ফলাফল বাড়িয়ে তোলে। স্মার্টফোনে উপলব্ধ এআই সহকারীদের সঙ্কটের সময় মহিলাদের সাহায্য করার জন্য প্রোগ্রাম করা হয় না — তারা 'ধর্ষণ' বা অন্তরঙ্গ সঙ্গীর হিংস্রতার মতো শব্দগুলি বোঝে না, বোঝে শুধু হৃদরোগের মতো শব্দগুলি।
যেখানে যেখানে এআই হস্তক্ষেপ করার লক্ষ্য রাখে সেখানে কার্যক্ষেত্রগত নির্ণায়ক বিন্দু বা সমস্যার জায়গাগুলি স্পষ্টভাবে বর্ণনা করতে হলে — যার ভিত্তি হল ডেটাসেটে কী অন্তর্ভুক্ত হয়েছে — বলতে হবে যা প্রশ্নাতীত বা যা উপেক্ষা করা যায় তা শক্তির একটি রূপ হয়ে ওঠে।
পদ্ধতিগত ক্ষতির ভুল স্বীকৃতির ঝুঁকি
মানব সিদ্ধান্ত–গ্রহণকারীদের পূর্বপছন্দগুলি, যা এআই মডেলগুলির প্রশিক্ষণের ভিত্তি হিসাবে আসে, তা উত্তরাধিকারী ডেটাসেটগুলিতে শক্তিশালী হয় — যেমন অ্যামাজনে রেজিউমে-স্ক্রিনিং মডেল যা মহিলাদের রেজিউমে স্ক্রিন করেছিল। এমনটা ঘটে কারণ সিস্টেমটি বিশ্বস্ততার সঙ্গে অতীতের সফল প্রার্থীদের তথ্য থেকে শিখেছিল যাঁরা প্রধানত ছিলেন পুরুষ, যার কারণ ছিল নিয়োগের অনুশীলন–পদ্ধতি, শিক্ষায় নারীদের প্রবেশাধিকারের ঐতিহাসিক অসুবিধা, এবং পুরুষ আধিপত্য ক্ষেত্রে অনুপ্রবেশের সমসাময়িক চ্যালেঞ্জগুলি। একইভাবে, বৃহৎ আন্তর্জাতিক বিমানবন্দরে মিলিমিটার ওয়েভ বডি স্ক্যানারগুলি ট্রান্স বডিগুলিকে চিনতে পারে না, কারণ সেগুলি পুরুষ বা মহিলা উভয়কে স্বীকৃত করার জন্য এনকোড করা হয়, যার ফলে ট্রান্সপারসনদের কঠোর ও অপমানজনকভাবে নিরাপত্তা পরীক্ষা করা হয়। পদ্ধতিগত সামাজিক প্রেক্ষাপটের সমস্যাগুলি সাধারণত ডেটা ও অ্যালগরিদমিক বৈষম্য ঘিরে কথোপকথনের পূর্বনির্ধারণ করে না, এবং পক্ষপাতপূর্ণ ডেটাসেটগুলি যেমন শিল্পগুলির দ্বারা সংগৃহীত উত্তরাধিকার ডেটাতে পূর্ব-বিদ্যমান পক্ষপাতগুলিই আবার প্রকাশ করে। জনপ্রিয় পরিসংখ্যান অনুসারে মহিলাদের গুরুতরভাবে আহত হওয়ার সম্ভাবনা ৪৭% বেশি এবং অনুরূপ দুর্ঘটনায় মারা যাওয়ার সম্ভাবনা ১৭ শতাংশ বেশি, কারণ গাড়ি দুর্ঘটনার পরীক্ষায় সিটবেল্ট, এয়ারব্যাগ এবং হেডরেস্টগুলি পুরুষ ডামি এবং তাদের বসার অবস্থানের উপর ভিত্তি করে তৈরি করা হয় এবং পরিমাপগুলি মহিলাদের উপযুক্ত নয়, কারণ তা মহিলাদের বক্ষ বা গর্ভবতী দেহের কথা বিবেচনা করে না। তার উপর, ক্লিনিকাল ট্রায়ালগুলি মূলত গর্ভবতী মহিলা, মেনোপজ মহিলা এবং জন্মনিয়ন্ত্রণ পিলের মহিলাদের বাদ দেয়৷ কার্ডিওভাসকুলার রোগগুলিকে পুরুষের অসুস্থতা হিসাবে বিবেচনা করা হত, আর ডিপ্রেশনের পরিসংখ্যানগুলি প্রধানত মহিলাদের ছিল। এই শর্তগুলি ডেটাসেটে বিদ্যমান সামাজিক পক্ষপাতের পূর্বাভাস দেয়, এবং এআই-এর তাৎক্ষণিক বিকাশের প্রেক্ষাপটের বাইরে আরও ব্যবস্থাগত (সিস্টেমিক) অবস্থাকে তুলে করে। এই ক্ষতিগুলির বিস্তৃত প্রকৃতি তাদের ভুল স্বীকৃতির দিকে চালিত করে, এবং সেগুলি স্বীকৃতি পেয়ে যায় একাধিক গ্রাহক-মুখী ব্যবসায়িক প্রক্রিয়া এবং জনপ্রশাসনে এআই সিস্টেমের প্রাতিষ্ঠানিকীকরণ ও একীকরণের মাধ্যমে। এগুলি এআই বিকাশ অনুশীলন থেকে মেয়েলি হিসাবে কোড করা দিকগুলিকে হয় অবমূল্যায়ন করে বা সম্পূর্ণরূপে বাদ দিয়ে অ্যান্ড্রোসেন্ট্রিক নিয়মগুলির স্থায়িত্বের দিকে চালিত করে।
ফলস্বরূপ ডেটা প্রস্তুতি থেকে অ্যালগরিদমিক ডিজাইন এবং গভর্নেন্স পর্যন্ত এআই পাইপলাইনে অনুবর্তী সিদ্ধান্ত গ্রহণে মহিলারা অনুপস্থিত।
পরিচালনা নীতি এবং মূলধারার অনুশীলন
ইউনেস্কো আয়োজিত দ্য গ্লোবাল ডায়ালগ অন জেন্ডার ইকুয়ালিটি অ্যান্ড এআই তুলে ধরেছে এআই আদর্শিক উপকরণ বা নীতিগুলির অপ্রতুলতাগুলিকে, যা লিঙ্গকে একটি স্বতন্ত্র সমস্যা হিসাবে দেখে। যদিও অ্যাডভোকেসি গ্রুপগুলি সচেতনতা বাড়াতে কাজ করছে, তৃতীয় পাক্ষিক প্রতিচ্ছেদ মূল্যায়ন ও নিরীক্ষা এখনও এআই গবেষণা সম্প্রদায়ের মধ্যে সীমাবদ্ধ, এবং ভোক্তাদের মুখোমুখি প্রয়োগগুলির জন্য গৃহীত হয়নি। এমনকি যদিও বাণিজ্যিক এআই সংস্থাগুলিও এআই ন্যায্যতার জন্য প্রচেষ্টা চালাচ্ছে, এগুলি এখনও একক পরিচয় বৈশিষ্ট্যগুলিতে নজর দেয় এবং প্রতিচ্ছেদযুক্ত বৈশিষ্ট্যগুলিতে নয়। ফলস্বরূপ ডেটা প্রস্তুতি থেকে অ্যালগরিদমিক ডিজাইন এবং গভর্নেন্স পর্যন্ত এআই পাইপলাইনে তাৎপর্যপূর্ণ সিদ্ধান্ত গ্রহণে মহিলারা অনুপস্থিত। যদিও প্রস্তাবিত এআই বিলগুলি ঝুঁকি কমানোর পরিকল্পনা করে, অনেকগুলি অতি–গুরুত্বপূর্ণ প্রশ্নে ক্ষতির সংজ্ঞা, বিশেষত উচ্চ প্রভাবের এআই সিস্টেম থেকে, এবং ব্যক্তিগত ও সমষ্টিগত অধিকারগুলি অমীমাংসিত থেকে যায়। লিঙ্গ-সংবেদনশীল এআই নীতি, প্রবিধান ও আইন নিয়ে বিশ্বব্যাপী সীমিত আলোচনা রয়েছে। এগুলির বিকাশের জন্য প্রয়োজন চ্যালেঞ্জ ও সুযোগের বিশদ বিশ্লেষণ এবং বৈষম্যমূলক ফলাফল অনুধাবন। ব্যবহৃত অ্যালগরিদম উৎপাদিত লিঙ্গভিত্তিক প্রভাবগুলি তাদের অন্তর্নিহিত অস্বচ্ছতার কারণে কম দৃশ্যমান বা স্পষ্ট হয়। এর ফলে সরাসরি লিঙ্গ প্রভাব — যেমন চাকরি থেকে মহিলা প্রার্থীদের বাদ দেওয়ার মতো বৈষম্যবিরোধী আইনের সরাসরি লঙ্ঘন বা পরিসংখ্যানগতভাবে মহিলাদের কম ঋণযোগ্যতার সঙ্গে যুক্ত করা — প্রকাশ্যে আসার ক্ষেত্রে, যদি আদৌ আসে, একটি সময় ব্যবধান দেখা দেয়। যেহেতু প্রস্তাবিত ডিজিটাল ইন্ডিয়া অ্যাক্টের লক্ষ্য এআই নিয়ন্ত্রণে ঝুঁকি-ভিত্তিক পদ্ধতি গ্রহণ করা, তাই এটি লিঙ্গ-সংবেদনশীল ও দায়িত্বশীল এআই মানগুলি বিকাশ করতে সহায়ক হবে, লিঙ্গ-ভিত্তিক ক্ষতির ঝুঁকিগুলিকে চিহ্নিতকরণ ও প্রতিকারের জন্য স্পষ্ট উপায় নির্ধারণ করবে, প্রযুক্তি উন্নয়নে মহিলা ও লিঙ্গ সংখ্যালঘুদের প্রতিনিধিত্বের প্রসার ঘটাবে, পক্ষপাত সনাক্তকরণ ও মূল্যায়ন পদ্ধতির অন্তর্ভুক্তি এবং ভোক্তা বা গণমুখী প্রযুক্তির জন্য এই জাতীয় ফলাফলগুলিতে জনসাধারণের প্রবেশাধিকার নিশ্চিত করবে।
অনুলেখা নন্দী অবজারভার রিসার্চ ফাউন্ডেশনের ফেলো।
The views expressed above belong to the author(s). ORF research and analyses now available on Telegram! Click here to access our curated content — blogs, longforms and interviews.
Anulekha Nandi is a Fellow at ORF. Her primary area of research includes technology policy and digital innovation policy and management. She also works in ...
Read More +
PREV
