পরিকল্পিত নারীকরণ: এআই সহযোগীর ক্ষেত্রে লিঙ্গ-পক্ষপাত পুনর্বিবেচনা

কৃত্রিম বুদ্ধিমত্তা (এআই) ব্যবহার মানুষের জীবনের বিভিন্ন দিককে প্রভাবিত করলেও যে ক্ষেত্রটি এআই-এর নাগালের বাইরে বলে মনে হয়েছিল, তা মানুষের সংযোগকে জয় করে অর্থাৎ মানসিক সমর্থন এবং সাহচর্য। তবুও আজ এআই এই ভূমিকাগুলিও পূরণ করতে শুরু করেছে, যা চিরাচরিত ভাবে মানুষের জন্যই সংরক্ষিত ছিল। লার্জ ল্যাঙ্গুয়েজ মডেল বা বৃহৎ ভাষা মডেল-চালিত (এলএলএম) বটগুলির বর্তমান প্রজন্ম অভিযোজিত শিক্ষা, সূক্ষ্ম কথোপকথন এবং এমনকি প্রেক্ষাপট-নির্দিষ্ট মানসিক সমর্থনে সক্ষম হয়ে উঠেছে, যা ব্যক্তিগত উৎপাদনশীলতা এবং শিক্ষা থেকে শুরু করে সুস্থতা ও মানসিক স্বাস্থ্য পর্যন্ত বিভিন্ন ক্ষেত্রে তাদের নিয়মিত উপস্থিতি তৈরি করেছে।

যাই হোক, এই এআই সহচর এজেন্টদের মধ্যে একটি প্রধান পক্ষপাত রয়েছে, যা হল ধারাবাহিক নারীকরণ। এটি আলেক্সার প্রশান্তিদায়ক কণ্ঠস্বর, সিরির মেদুর সুর অথবা রেপ্লিকা এবং অনুরূপ প্ল্যাটফর্মগুলিতে প্রোগ্রাম করা ডিফল্ট ব্যক্তিত্ব… যা-ই হোক না কেন, নকশার পছন্দটি ছিল মূলত এই সিস্টেমগুলিকে মহিলার নাম, কণ্ঠস্বর এবং স্বরের মেজাজ দিয়ে কোড করা। এই সঙ্গীদের সাধারণত ‘আনন্দপ্রদানকারী’, ‘সহায়ক’ এবং অবিশ্বাস্য রকমের ‘অনুগত’ হওয়ার জন্য প্রোগ্রাম করা হয় - এই গুণাবলি যত্নশীল, সহকারী বা অধস্তন হিসাবে মহিলাদের কেন্দ্র করে গভীর ভাবে প্রোথিত সাংস্কৃতিক স্টিরিওটাইপ এবং সামাজিক প্রত্যাশাগুলিকে শক্তিশালী করে তোলে। সর্বোপরি, এটি মানব-যন্ত্র সম্পর্কের ক্ষেত্রে পরিষেবা এবং সম্মতির গতিশীলতাকে পুনরায় সংজ্ঞায়িত করে।

এই সঙ্গীদের সাধারণত ‘আনন্দপ্রদানকারী’, ‘সহায়ক’ এবং অবিশ্বাস্য রকমের ‘অনুগত’ হওয়ার জন্য প্রোগ্রাম করা হয় - এই গুণাবলি  যত্নশীল, সহকারী বা অধস্তন হিসাবে মহিলাদের কেন্দ্র করে গভীর ভাবে প্রোথিত সাংস্কৃতিক স্টিরিওটাইপ এবং সামাজিক প্রত্যাশাগুলিকে শক্তিশালী করে তোলে। সর্বোপরি, এটি মানব-যন্ত্র সম্পর্কের ক্ষেত্রে পরিষেবা এবং সম্মতির গতিশীলতাকে পুনরায় সংজ্ঞায়িত করে।

সতর্কতার সঙ্গে বিবেচনা ও হস্তক্ষেপ ছাড়া এআই সঙ্গীদের নারীকরণ একটি অদৃশ্য কিন্তু ব্যাপক শক্তিতে পরিণত হওয়ার ঝুঁকি তৈরি করে, যা দ্রুত ডিজিটালকরণের পথে হাঁটা বিশ্বে প্রাচীন শ্রেণিবিন্যাসকেই শক্তিশালী করে।

যখন প্রযুক্তি লিঙ্গ নিয়মগুলিকে সশক্ত করে তোলে

এআই সঙ্গীরা তাদের ব্যবহারকারীদের কাছে বন্ধু বা এমনকি লিঙ্গভিত্তিক রোম্যান্টিক সঙ্গী হিসাবে ক্রমবর্ধমান জনপ্রিয় হয়ে উঠেছে, যা নারীত্বপূর্ণ, ভদ্র, মনোরম এবং অ-সংঘাতমূলক হতে ডিজাইন করা হয়েছে। রাষ্ট্রপুঞ্জের শিক্ষাগত, বৈজ্ঞানিক এবং সাংস্কৃতিক সংস্থা (ইউনেসকো) ‘আই উড ব্লাশ ইফ আই কুড’ শিরোনামের একটি প্রতিবেদনে প্রকাশ করেছে যে, সিরির মতো সহকারীরা কী ভাবে নির্যাতনের প্রতি বিনয়ী ভাবে প্রতিক্রিয়া জানায় এবং প্রায়শই ‘আই উড ব্লাশ ইফ আই কুড’-এর মতো ক্ষমাপ্রার্থী বা সংবেদনশীল উত্তর দেয়, যা নারীদের অবিরাম সহানুভূতিশীল হওয়ার ধারণাকে স্বাভাবিক করে তোলে। প্রকৃতপক্ষে, প্রায় ২৮ শতাংশ এআই সঙ্গী অ্যাপে রোম্যান্টিক বা যৌন মিথস্ক্রিয়ার জন্য ডিজাইন করা অতি-নারীকৃত মহিলা-উপস্থাপক চরিত্র রয়েছে, যেখানে মাত্র ১ শতাংশ পুরুষ সহযোগীদের প্রস্তাব দেয়।

ভার্চুয়াল সহকারীদের এই নারীকরণ আকস্মিক নয়, বরং আচরণগত অর্থনীতির একটি পণ্য, যা একজন মহিলার কণ্ঠস্বরকে কম হুমকিস্বরূপ হিসাবে বিবেচনা করে। শতাব্দীর পর শতাব্দী ধরে আখ্যান এবং সাহিত্য ‘নিখুঁত নারী’র ধারণাটি অন্বেষণ করে আসছে, যা পরিবেশনের জন্য তৈরি এবং প্রশিক্ষিত। আর্নস্ট থিওডর অ্যামাডিউস হফম্যানের ১৮১৬ সালের ছোট গল্প ‘দ্য স্যান্ডম্যান’-এ নায়ক নাথানিয়াল অলিম্পিয়ার প্রেমে পড়েন, যা তার অধ্যাপকের তৈরি একটি প্রাণবন্ত পুতুল। তিনি তার গানের কণ্ঠস্বর - যা গল্পে ‘কাচের ঘণ্টার স্বরের মতো স্বচ্ছ’ হিসাবে বর্ণনা করা হয়েছে - এবং তার লাজুক, মৃদু প্রতিক্রিয়ার প্রতি আকৃষ্ট হন। যাই হোক, নাথানিয়াল প্রথমে যা বুঝতে ব্যর্থ হন তা হল, অলিম্পিয়া বাস্তব নয়; এটি তাকে খুশি করার জন্য তৈরি একটি প্রোগ্রাম করা সৃষ্টি। আধুনিক এআই সঙ্গীরা এই ইতিহাসের প্রতিধ্বনি করে সঙ্গলাভের মায়া তৈরি করে, যা সম্মতি ও ঘনিষ্ঠতার জন্য ডিজাইন করা সিস্টেমের মধ্যে প্যাকেজ করা হয় এবং স্বায়ত্তশাসনের সত্তার পরিবর্তে ভোগের বস্তুতে রূপান্তরিত করে।

আর্থার সি ক্লার্ক পুরস্কার ২০২৫ বিজয়ী সিয়েরা গ্রিয়ারের অ্যানি বটের মতো সাংস্কৃতিক সমালোচনা এই বিশ্লেষণকে তীক্ষ্ণ করে তোলে। অ্যানি একজন মহিলা-কোডেড এআই সঙ্গী। তাকে আবেগগত ভাবে বুদ্ধিমান এবং প্রতিক্রিয়াশীল বলে মনে হলেও মৌলিক ভাবে দাসত্বের জন্য কোড করা হয়েছে। বাস্তব জগতের এআই সঙ্গীরা - যেমন রেপ্লিকা - প্রায়শই মহিলা ব্যক্তিত্বের প্রতি ডিফল্ট চরিত্রের। বইটিতে দেখানো হয়েছে যে, ঘনিষ্ঠতার বাণিজ্যিকীকরণ কী ভাবে লিঙ্গভিত্তিক যত্ন এবং সম্মতির প্রত্যাশাকে শক্তিশালী করে, সাহচর্য ও নিয়ন্ত্রণের মধ্যে সীমানা ভেঙে দেয়।

এই পক্ষপাতগুলি কেবল সাংস্কৃতিক নয়, বরং কাঠামোগত অর্থও বহন করে। ওয়ার্ল্ড ইকোনমিক ফোরাম (ডব্লিউইএফ) এটিকে এআই ডেভেলপমেন্ট টিমের বৈচিত্র্যের অভাবের সঙ্গে সংযুক্ত করে, যেখানে প্রধানত পুরুষ প্রকৌশলীরা প্রায়শই অবচেতন ভাবে তাদের তৈরি সিস্টেমগুলিতে তাদের ধারণাগুলিকে এনকোড করে।

এআই সঙ্গী এবং তাদের লিঙ্গ কোডিং

উৎস: লেখক কর্তৃক সঙ্কলিত

উপরে উল্লেখিত সারণিতে এআই সঙ্গীর প্ল্যাটফর্ম/অ্যাপগুলির তালিকা দেওয়া হয়েছে যেগুলি তাদের ডেভেলপারদের দ্বারা লিঙ্গ-কোডেড এবং নারীকৃত, এই পক্ষপাতকে কার্যকর করে এবং তাদের লাভের জন্য নারীত্বের বিপণন করে।

সীমার ঊর্ধ্বে উঠে পক্ষপাতকে অতিক্রম করার খেলা

এআই সঙ্গীর ক্ষেত্রে লিঙ্গ পক্ষপাত মোকাবিলার একটি পথ হল সচেতন ভাবে একটি লিঙ্গ-নিরপেক্ষ নকশা তৈরি করা। কয়েকটি ডকুমেন্টারি উদাহরণের মধ্যে রয়েছে গুগল, যেখানে ২০২০ সালে লিঙ্গ-নিরপেক্ষ কণ্ঠস্বর প্রবর্তনের পদক্ষেপ এই ক্ষেত্রে একটি পদক্ষেপকেই দর্শায় এবং যা দেখায় যে, নকশার পছন্দগুলি নীতিগত উদ্বেগের প্রতিক্রিয়ায় বিকশিত হতে পারে। একই ভাবে, ইউনেসকোর ‘আই উড ব্লাশ ইফ আই কুড’ রিপোর্ট অনুসারে, ডেভেলপারদের স্বাচ্ছন্দ্যের জন্য কণ্ঠ ও ব্যক্তিত্ব নকশায় স্টিরিওটাইপগুলিকে শক্তিশালী করার পরিবর্তে সক্রিয় ভাবে চ্যালেঞ্জ করা উচিত। আর একটি উল্লেখযোগ্য উদাহরণ হল ইউনেসকো ও অংশীদারদের দ্বারা তৈরি প্রজেক্ট কিউ, যা এআই সহকারীদের জন্য প্রথম লিঙ্গ-নিরপেক্ষ কণ্ঠস্বর তৈরি করেছে। চিরাচরিত ভাবে পুরুষ বা মহিলা নয় এমন বিভিন্ন কণ্ঠস্বর ফ্রিকোয়েন্সিতে বিদ্যমান থাকার জন্য ডিজাইন করা হয়েছে এবং প্রজেক্ট কিউ দেখায় যে, শব্দ নকশা নিজেই লিঙ্গের বাইনারি যুক্তিকে প্রতিহত করতে পারে। একটি নন-বাইনারি বিকল্প প্রদানের মাধ্যমে এটি শিল্পকে এআই সঙ্গীদের কল্পনা করতে বাধ্য করে, যারা নারীত্বের বিদ্যমান স্টিরিওটাইপের সঙ্গে দাসত্ব হিসেবে আবদ্ধ নয়।

আর একটি অবিচ্ছেদ্য সমাধান হতে পারে এআই তৈরিকারী দলগুলিকে বৈচিত্র্যময় করা। ডব্লিউইএফ-এর সর্বশেষ গ্লোবাল জেন্ডার গ্যাপ রিপোর্ট (২০১৮) অনুসারে, বিশ্বব্যাপী এআই পেশাদারদের মধ্যে মাত্র ২২ শতাংশ মহিলা, যেখানে ৭৮ শতাংশ পুরুষ। এআই প্রযুক্তির নকশা ও বিকাশে পুরুষদের এই ধরনের অতিরিক্ত প্রতিনিধিত্ব ডিজাইনের মধ্যে অবচেতন পক্ষপাত তৈরির ঝুঁকি তৈরি করে। আরও অন্তর্ভুক্তিমূলক কর্মীবাহিনী সিস্টেম ডিজাইনে এই পক্ষপাতগুলি দূর করার জন্য কাজ করতে পারে এবং নিশ্চিত করতে পারে যে, সহকারীরা যত্ন ও দাসত্বের পুরনো স্টিরিওটাইপগুলি প্রতিফলিত করার জন্য কোড করা হয়নি।

ডেভেলপারদেরও সচেতন থাকা উচিত যে কী ভাবে সঙ্গীত্ব বিষয়টিকে বাজারজাত করা হয় এবং তার অর্থায়ন করা হয়। এআই-এর মানসিক সমর্থনের আড়ালে নিয়ন্ত্রণ বা দাসত্বের গতিশীলতা পুনরুত্পাদন করা উচিত নয়। বরং পারস্পরিক শ্রদ্ধা ও সীমানার চারপাশে সিস্টেমগুলি ডিজাইন করা যেতে পারে। এই সব কিছুই নিশ্চিত করে যে, মিথস্ক্রিয়া নারীত্ব ও ঘনিষ্ঠতা সম্পর্কে ক্ষতিকারক স্টিরিওটাইপগুলিকে স্বাভাবিক করে না।

দায়িত্বশীল এআই সহযোগীদের গঠন: লিঙ্গ-প্রতিক্রিয়াশীল এআই শাসনব্যবস্থা

এআই সহযোগীদের নকশায় বিদ্যমান লিঙ্গ বৈষম্য মোকাবিলা করার জন্য একাধিক অংশীদারের মধ্যে সমন্বিত প্রচেষ্টার প্রয়োজন হবে। নীতিনির্ধারকদের এআই নকশায় লিঙ্গ প্রতিনিধিত্বের উপর স্পষ্ট নির্দেশিকা এমবেড করে শুরু করা উচিত এবং নিশ্চিত করা উচিত যে, কোনও যুক্তিসঙ্গত কারণ না থাকলে ডিফল্টগুলিকে মহিলা হিসাবে কোড করা হবে না। শিল্পের জন্য ডিজাইন অনুসারে পছন্দের উপর মনোযোগ দেওয়া উচিত। সংস্থাগুলিকে নারী ডিফল্ট আরোপ করা থেকে দূরে সরতে হবে এবং পরিবর্তে ব্যবহারকারীদের সেটআপের সময় বিভিন্ন কণ্ঠস্বর ও ব্যক্তিত্ব থেকে নির্বাচন করার অনুমতি দিতে হবে।

প্রায় ২৮ শতাংশ এআই সঙ্গী অ্যাপে রোম্যান্টিক বা যৌন মিথস্ক্রিয়ার জন্য ডিজাইন করা অতি-নারীকৃত মহিলা-উপস্থাপক চরিত্র রয়েছে, যেখানে মাত্র ১ শতাংশ পুরুষ সহযোগীদের প্রস্তাব দেয়।

স্বেচ্ছামূলক শিল্প পরিবর্তনের ঊর্ধ্বে উঠে দেখলে, নিয়ন্ত্রক হস্তক্ষেপ স্থায়ী পরিবর্তন নিশ্চিত করার মূল চাবিকাঠি হবে। ডিজিটাল ব্যক্তিগত তথ্য সুরক্ষা আইন, ২০২৩ থেকে শুরু করে নীতি আয়োগের সকলের জন্য এআই পর্যন্ত ভারতের বর্তমান কাঠামোগুলি দায়িত্বশীল এআই-এর দিকে ইঙ্গিত করে কিন্তু সঙ্গী এবং ভয়েস সহকারীদের ক্ষেত্রে লিঙ্গভিত্তিক নকশার প্রশ্নে নীরব থাকে। ইলেকট্রনিক্স ও তথ্য প্রযুক্তি মন্ত্রক (এমইআইটিওয়াই) সমস্ত মধ্যস্থতাকারী ও প্ল্যাটফর্মগুলিকে সম্বোধন করে একটি এআই পরামর্শও জারি করেছে, যা ‘অবৈধ বিষয়বস্তু’র অ-অনুমোদনযোগ্যতা, ‘পক্ষপাত বা বৈষম্য’ এবং ‘নির্বাচনী প্রক্রিয়ার অখণ্ডতা’র হুমকি-সহ বিষয়গুলির প্রতি দৃষ্টি আকর্ষণ করেছে। তবে এটি লিঙ্গ পক্ষপাতের বিষয়টি বিশেষ ভাবে মোকাবিলা করতে ব্যর্থ হয়েছে, যা পরবর্তী সংশোধনীর মাধ্যমে সমাধান করা যেতে পারে। বিশ্বব্যাপী ইউরোপীয় ইউনিয়নের এআই আইন এবং ইউনেসকোর এআই নীতিশাস্ত্র সুপারিশের মতো মডেলগুলি ন্যায্যতা, মর্যাদা ও স্টিরিওটাইপিং-বিরোধী নীতিগুলিকে আইনে কিছু ক্ষমতায় অন্তর্ভুক্ত করার জন্য একটি টেমপ্লেট প্রদান করে। এই ধরনের নিয়ন্ত্রক সমর্থন ছাড়া নৈতিক নকশা ঐচ্ছিক থাকার ঝুঁকির সামনে অরক্ষিত। এটি এমন একটি পছন্দ, যা কেবল বাজার শক্তিকেই টিকিয়ে রাখার জন্য বিশ্বাস করা যায় না।

নীতি কাঠামোর বাইরে, নাগরিক সমাজ এবং শিক্ষাবিদরাও এআই সাহচর্যের চারপাশের নিয়ম গঠনে গুরুত্বপূর্ণ ভূমিকা পালন করে। জনসচেতনতামূলক প্রচারণাগুলি কী ভাবে নকশার পছন্দগুলি লিঙ্গ সম্পর্কে সামাজিক ধারণাগুলিকে রূপ দেয় তা তুলে ধরতে সাহায্য করতে পারে, যা প্রায়শই পটভূমির শব্দ হিসাবে কাজ করে তা দৃশ্যমান করে। বিশ্ববিদ্যালয় ও থিঙ্ক ট্যাঙ্কগুলি এআই ডিজাইনের জন্য আরও অন্তর্ভুক্তিমূলক কাঠামো তৈরি করতে লিঙ্গ অধ্যয়ন, আচরণগত অর্থনীতি এবং কম্পিউটার বিজ্ঞান থেকে আগত আন্তঃশৃঙ্খলা গবেষণা পরিচালনা করতে পারে। নজরদারি গোষ্ঠীগুলি সংস্থাগুলিকে চাপ দিতে পারে যে, তারা এআই সাহচর্যকে এমন ভাবে বিপণন করা এড়াতে পারে, যা পরাধীনতাকে শক্তিশালী করে এবং পরিবর্তে সম্মান, ক্ষমতা এবং সমতার উপর জোর দেয় এমন মিথস্ক্রিয়ার মডেলগুলি অন্বেষণ করে।

মোদ্দা কথায় বললে, এই পদক্ষেপগুলি এআই সিস্টেমগুলি থেকে এমন একটি পরিবর্তনের ইঙ্গিত দিতে পারে, যা লিঙ্গভিত্তিক স্টিরিওটাইপগুলিকে নীরবে এনকোড করে এবং যা নৈতিক, অন্তর্ভুক্তিমূলক এবং সামাজিক ভাবে দায়ী নকশা নীতিগুলিকে প্রতিফলিত করে। এই ধরনের হস্তক্ষেপ ছাড়াই দ্য স্যান্ডম্যানের অলিম্পিয়া থেকে অ্যানি বটে অ্যানি এবং এমনকি অ্যামাজনের অ্যালেক্সা পর্যন্ত নারীবাদী অটোমেটনের মূল ধরনটি বিকশিত এবং সর্বব্যাপী ডিজিটাল জীবনের গভীর ত্রুটিপূর্ণ অবকাঠামোর কাছে আত্মসমর্পণ করার ঝুঁকিতে রয়েছে।

তনুষা ত্যাগী অবজার্ভার রিসার্চ ফাউন্ডেশনের সেন্টার ফর ডিজিটাল সোসাইটিজ-এর রিসার্চ অ্যাসিস্ট্যান্ট।

নিবন্ধে প্রকাশিত মতামত লেখক(দের) ব্যক্তিগত।

• Gender
• Cyber Security
• Internet Governance
• এআই এবং লিঙ্গ সমতা
• এআই চ্যাটবট
• এআই বিশ্ব পরিসর
• এআই ব্যবস্থা
• কৃত্রিম বুদ্ধিমত্তা
• ভারত
• লিঙ্গ প্রসঙ্গ
• সঙ্গী

The views expressed above belong to the author(s). ORF research and analyses now available on Telegram! Click here to access our curated content — blogs, longforms and interviews.

PREV NEXT