Author : Siddharth Yadav

Published on Jan 29, 2025 Updated 0 Hours ago

এআই মডেলগুলি হল সামাজিক-প্রযুক্তিগত পণ্য, যা প্রায়শই ঐতিহাসিক ও সামাজিক-রাজনৈতিক পক্ষপাতকে প্রতিফলিত করে। যেহেতু এআই উন্নয়ন মূলত পশ্চিমী-‌নেতৃত্বাধীন, তাই এআই পক্ষপাত দূর করার জন্য একটি বৈশ্বিক, বহু-‌সাংস্কৃতিক দৃষ্টিভঙ্গি প্রয়োজন।

এআই পক্ষপাতের বৈশ্বিক দৃষ্টিভঙ্গি: সাংস্কৃতিক অসামঞ্জস্য ও নৈতিক প্রভাবের মোকাবিলা করা

ভূমিকা

চ্যাটজিপিটি-র মতো এআই অ্যাপ্লিকেশনের ব্যাপক বাণিজ্যিক সাফল্যের কারণে গত দুই বছরে এআই, লার্জ ল্যাঙ্গুয়েজ মডেল (এলএলএম), এবং জেনারেটিভ এআই-‌এর মতো শব্দগুলি প্রযুক্তিগত দুর্বোধ্য পরিভাষার স্বাভাবিক অংশ হয়ে উঠেছে। জেনারেটিভ এআই এখন এআই প্ল্যাটফর্মে মোট বিনিয়োগের একটি বড় অংশ। বর্তমানে সব বড় প্রযুক্তি কোম্পানি তাদের নিজস্ব জেনারেটিভ এআই পণ্যগুলিকে এআই আধিপত্য অর্জনের প্রচেষ্টায় উপলব্ধ করেছে। যাই হোক, এআই বিকাশের গল্পটি অন্যদের মধ্যে কপিরাইট লঙ্ঘন, ব্ল্যাক-বক্স অ্যালগরিদম, এবং দায়বদ্ধতার প্রশ্নের মতো সমস্যাগুলির কারণে ম্লান হয়েছে। সাধারণভাবে এআই-‌‌এর সঙ্গে এবং বিশেষ করে জেনারেটিভ এআই-‌এর সঙ্গে যুক্ত একটি ক্রমাগত সমস্যা হল এআই সিস্টেমের আউটপুটগুলিতে রাজনৈতিক ও সাংস্কৃতিক পক্ষপাতের বিভিন্ন রূপ। গত এক দশকে এমন বিভিন্ন দৃষ্টান্ত রয়েছে যেখানে ফেসিয়াল রেকগনিশন, মেডিক্যাল ডায়গনসিস ও ইমেজ জেনারেশনের মতো প্ল্যাটফর্মে ব্যবহৃত এআই সিস্টেমগুলি তাদের ভারসাম্যহীন প্রশিক্ষণ ডেটাসেটের উপর ভিত্তি করে জাতিগতভাবে পক্ষপাতদুষ্ট আউটপুট তৈরি করেছে। এআই পক্ষপাতের বিষয়টি আগস্ট ২০২৪ সালের ইইউ এআই আইনেও প্রবেশ করেছে, যা এআই নিয়ন্ত্রণের জন্য প্রথম আনুষ্ঠানিক আইন। আইনটি এআই পক্ষপাতকে সামাজিক ও অর্থনৈতিক ক্ষতির বিভিন্ন স্তরের সম্ভাব্যতা হিসাবে স্বীকৃতি দেয়, এবং সেই অনুযায়ী এআই সিস্টেমগুলিকে নিয়ন্ত্রণ করার চেষ্টা করে। যদিও জাতি, লিঙ্গ ও জনগোষ্ঠীর মতো তুলনামূলকভাবে সংকীর্ণ কারণগুলির উপর ভিত্তি করে তৈরি হওয়া পক্ষপাতগুলি বিশেষজ্ঞ, কর্মী, সাংবাদিক ও নীতিনির্ধারকদের কাছ থেকে উল্লেখযোগ্য মনোযোগ পেয়েছে, তবে এআই অ্যাপ্লিকেশনগুলির আউটপুটগুলিতে বৃহত্তর এবং কম সুস্পষ্ট সাংস্কৃতিক পক্ষপাতগুলি ব্যাপকভাবে রয়ে গিয়েছে। যেহেতু অনেক দেশের অর্থনৈতিক ও ভূ-রাজনৈতিক কৌশলগুলির সঙ্গে এআই উন্নয়ন ক্রমবর্ধমানভাবে একীভূত হচ্ছে, তাই এআই সিস্টেমের তির্যক প্রশিক্ষণ ডেটা সেট থেকে উদ্ভূত পক্ষপাতগুলি ক্রমশ গুরুত্বপূর্ণ হয়ে উঠছে, বিশেষ করে অ্যাংলোস্ফিয়ারের বাইরের দেশগুলির জন্য। উপযুক্ত তত্ত্বাবধান ছাড়া এআই অ্যাপ্লিকেশনগুলি, যেগুলি এখন বিশ্বব্যাপী লক্ষ লক্ষ মানুষ ব্যবহার করছেন, তা বিশ্বব্যাপী সাংস্কৃতিক অসামঞ্জস্যকে আরও বাড়িয়ে তুলতে পারে।



সাধারণভাবে এআই-‌‌এর সঙ্গে এবং বিশেষ করে জেনারেটিভ এআই-‌এর সঙ্গে যুক্ত একটি ক্রমাগত সমস্যা হল এআই সিস্টেমের আউটপুটগুলিতে রাজনৈতিক ও সাংস্কৃতিক পক্ষপাতের বিভিন্ন রূপ।



এআই পক্ষপাত কী?

এআই-তে পক্ষপাত প্রাথমিকভাবে দুটি সমস্যার কারণে দেখা দেয়: ডেটার পরিমাণ ও গুণমান। যদিও এআই সিস্টেমের প্রশিক্ষণ পদ্ধতি পরিবর্তন করে পক্ষপাতিত্ব সংশোধন করা সম্ভব, তবে পক্ষপাতের উৎস সাধারণত
প্রশিক্ষণের ডেটা। যে কোনও ল্যাঙ্গুয়েজ মডেলের প্রশিক্ষণের জন্য প্রচুর পরিমাণে পাঠ্য নির্বাচন করা এবং তারপর সেগুলিকে শ্রেণিবদ্ধ করা ও ফিল্টার করা প্রয়োজন। যাই হোক, নির্বাচিত পাঠ্যগুলি যত উচ্চ-মানেরই হোক না কেন, তারা এখনও ওয়েবে বিদ্যমান পাঠ্যের মোট সংখ্যার একটি ছোট সাবসেট গঠন করে। অধিকন্তু, ওয়েবে পাঠ্য  তথ্যের প্রতিটি অংশের সুযোগ, অভ্রান্ততা, পক্ষপাত এবং এর অন্তর্নিহিত বিশ্বদর্শনের নিজস্ব সীমাবদ্ধতা রয়েছে। একটি গুরুত্বপূর্ণ কারণ যা পক্ষপাতকে প্রসারিত করে তা হল জাতীয়তা, সাংস্কৃতিক দৃষ্টিভঙ্গি, লিঙ্গ, জাতি, ধর্ম এবং আরও অনেক কিছু সম্পর্কিত কিছু উপাদানের অত্যধিক উপস্থাপন। যাই হোক, পণ্ডিতরা যেমন উল্লেখ করেছেন, ‘‌‘‌অতিরিক্ত প্রতিনিধিত্বসম্পন্ন পরিসর/শৈলীর অন্তর্গত নথিগুলি বাদ দিলে উচ্চমানের তথ্য বাতিল হতে পারে, যেখানে উপ-প্রতিনিধিত্বকারী শ্রেণির নথির সংখ্যা বৃদ্ধির জন্য উল্লেখযোগ্য মানবিক প্রচেষ্টার প্রয়োজন হতে পারে৷’‌’‌ এআই মডেলগুলিতে লিঙ্গ পক্ষপাতের বিরাজমান প্রশ্নটি  এই সমস্যার উদাহরণ। গবেষণায় দেখা গিয়েছে যে ঐতিহাসিক স্টেরিওটাইপগুলি এআই টেক্সট-জেনারেটরগুলিতে প্রতিফলিত হয়, যা 'নার্স' বা 'হোমমেকার'-‌এর মতো শব্দগুলিকে মহিলা হিসাবে শ্রেণিবদ্ধ করে, আর 'ম্যানেজার' বা 'সিইও'-এর মতো পদগুলিকে পুরুষ হিসাবে। এআই ইমেজ জেনারেটর প্রবর্তনের মাধ্যমে এআই পক্ষপাতের সমস্যা আরও প্রসারিত হয়েছে। উদাহরণস্বরূপ, ২০২৪ সালের ফেব্রুয়ারিতে, ঐতিহাসিকভাবে ভুল ছবি সংক্রান্ত একটি বিতর্কের কারণে গুগলকে তার জেমিনি এআই-এর পরিষেবাগুলি থামাতে হয়েছিল। ১৯৪৩ সাল থেকে জার্মান সেনাদের ছবি তৈরি করতে বলা হলে এআই নাৎসি ইউনিফর্মে আফ্রিকান ও এশীয় বংশোদ্ভূত লোকদের চিত্রিত করে কিছু ছবি তৈরি করেছিল। সাংস্কৃতিক ও জাতিগত স্টিরিওটাইপিংয়ের এমন উদাহরণ অসংখ্য। যেমন, ‘‌একজন ভারতীয়  ব্যক্তির’‌ চিত্র তৈরি করতে বলা হলে সব সময়েই এআই একটি দীর্ঘ দাড়ি-‌সহ পাগড়ি পরা একজন বয়স্ক ব্যক্তিকে চিত্রিত করে; মেক্সিকানদের জন্য এটি প্রধানত সোমব্রেরোস পরা মেক্সিকান পুরুষদের ছবি তৈরি করে;‌ এবং শুধুমাত্র ভারতীয় শহরগুলির দূষিত ও নোংরা রাস্তাগুলি দেখানো ছবি তৈরি করে। পক্ষপাতিত্ব এবং স্টিরিওটাইপগুলি তৈরি ও স্থায়ী করার পাশাপাশি, একটি দ্বিতীয় ক্রমের সমস্যা হল ‘‌ভিশিয়াস ফিডব্যাক লুপ’‌, যেখানে পক্ষপাতদুষ্ট ডেটাসেটগুলি পক্ষপাতদুষ্ট আউটপুট তৈরির দিকে নিয়ে যায় এবং তা পরে নতুন প্রশিক্ষণ ডেটাসেটের অংশ হয়ে যায়। এআই থেকে উদ্ভূত বেশিরভাগ সমস্যার মতো, এআই পক্ষপাতের অনুদৈর্ঘ্য প্রভাবগুলি অস্পষ্ট, তবে বাণিজ্যিক এআই ব্যবহারের বিশ্বব্যাপী বিতরণ  প্রকৃতির কারণে সমস্যাটি সমাধানের জন্য আন্তর্জাতিক বহু-অংশীদার সহযোগিতার প্রয়োজন হবে।



এআই পক্ষপাতের অনুদৈর্ঘ্য প্রভাবগুলি অস্পষ্ট, তবে বাণিজ্যিক এআই ব্যবহারের বিশ্বব্যাপী বিতরণ প্রকৃতির কারণে সমস্যাটির সমাধানের জন্য আন্তর্জাতিক বহু-অংশীদার সহযোগিতার প্রয়োজন হবে।



সাংস্কৃতিক ও আদর্শগত পক্ষপাত

টেক্সট-ভিত্তিক ও ইমেজ-ভিত্তিক পক্ষপাত ছাড়াও, এআই সিস্টেমে বিদ্যমান আরেকটি অসাম্য হল সাংস্কৃতিক পক্ষপাত। বিশ্বজুড়ে ব্যাখ্যাযোগ্য এআই (এক্সএআই) ও বিশ্বস্ত এআই-এর জন্য চলতি আইনি ও আদর্শগত চাপের পাশাপাশি যে সব ধারণাগত কাঠামোর মধ্যে এআই সিস্টেমগুলি কাজ করে সেগুলিও পরীক্ষা করা দরকার। এক্সএআই সিস্টেমের উপর
অধ্যয়নগুলি প্রকাশ করেছে যে এই ধরনের সিস্টেমগুলি অনেক ক্ষেত্রেই পশ্চিমী, শিক্ষিত, শিল্পায়িত, ধনী ও গণতান্ত্রিক (উইয়ার্ড) দেশগুলির মান অনুসারে তাদের আউটপুট তৈরি করার পক্ষপাতী। অধিকন্তু, বেশিরভাগ এক্সএআই ডেভেলপার এই পক্ষপাত সম্পর্কে খুবই কম সচেতন। নীচ-‌থেকে-উপরের (‌বটম আপ)‌ দৃষ্টিকোণ থেকে, যেখানে প্রশিক্ষণের ডেটা নির্বাচন করা হয় এই ফ্রেমিং পক্ষপাতের উৎসটি সেই পর্যায়ের আগের স্তরের। যেহেতু সবচেয়ে বড় এআই ডেভেলপাররা উইয়ার্ড দেশগুলি থেকে এসেছেন, তাই এআই নির্মাতা ও প্রোগ্রামারদের জনসংখ্যাগত বিন্যাসও তির্যক। তির্যক জনসংখ্যা কীভাবে এআই সিস্টেমের আচরণকে প্রভাবিত করে তা নিয়ে প্রশ্ন করা যুক্তিসঙ্গত। যাই হোক, এআই অ্যালগরিদমের ব্ল্যাক-বক্স প্রকৃতির কারণে, কারণ ও প্রভাবের মধ্যে সম্পর্ক কমিয়ে আনা কঠিন।


সাম্প্রতিক বছরগুলি এআই নীতিশাস্ত্রের আলোচনায় পশ্চিমের আদর্শগত আধিপত্য সম্পর্কিত উপর-‌থেকে-নিচের দৃষ্টিকোণ নিয়ে একটি উদীয়মান বিতর্কের  সাক্ষী হয়েছে। ২০১০-‌এর দশক জুড়ে বিভিন্ন দেশ দ্বারা প্রকাশিত এআই নীতিশাস্ত্রের উপর ইটিএইচ জুরিখের
২০২০ গবেষণায় এই আধিপত্য তুলে ধরা হয়েছিল। সমীক্ষায় দেখা গিয়েছে যে ৮২ শতাংশ কোড পশ্চিমী দেশগুলির ছিল, যেখানে ভারত ও চিনের মতো অন্যান্য দেশের অবদান কার্যত ছিল না। ২০২২ সালের একটি গবেষণাপত্র এআই ও রোবোটিক্স নিয়ন্ত্রণের জন্য জাপানের সঙ্গে পশ্চিমী নৈতিক নীতির তুলনা করতে গবেষণাটি ব্যবহার করেছিল। গবেষণাপত্রটি চিহ্নিত করেছে যে এআই নৈতিকতার আলোচনাগুলি এআই-‌সম্পর্কিত নেতিবাচক মানের চেয়ে কম মাত্রায় ইতিবাচক মানগুলিকে উদ্ধৃত করেছে। অধিকন্তু, মানব-এআই সম্পর্ককে বিরোধপূর্ণ হিসাবে বোঝার প্রতি এই পক্ষপাতকে পশ্চিমী পক্ষপাতের প্রতিফলন হিসাবে দেখা হয়। বিশেষজ্ঞরা এমনকি বলেছেন, ‘‌‘‌বিশ্বস্ত এআই হল শিল্প দ্বারা উদ্ভাবিত একটি বিপণন আখ্যান যা হল আগামীকালের গ্রাহকদের জন্য একটি শয়নকালের গল্প।’‌’‌ তাঁরা বলেছেন এর লক্ষ্য হল নৈতিকতা বিতর্ক কাজে লাগিয়ে হালকা নিয়মকানুন তৈরির প্রচার। যদিও এআই সিস্টেমগুলিকে সম্পূর্ণরূপে উপকারী হিসাবে চিত্রিত করা দায়িত্বজ্ঞানহীন হবে, তবে কিছু নীতির প্রচারের পিছনে যুক্তি পরীক্ষা করা প্রয়োজন। একটি ভাল উদাহরণ হল সাম্প্রতিক ২০২৩ ইইউ এআই আইনের মাধ্যমে ইইউ-‌এর এআই নিয়ন্ত্রণের প্রচেষ্টা। ইইউ এআই উন্নয়নে মার্কিন যুক্তরাষ্ট্র ও চিনের মতো অন্য বড় খেলোয়াড়দের থেকে পিছিয়ে থাকার প্রতিকূল অবস্থানে রয়েছে। একই সঙ্গে তারা অন্যান্য দেশের তুলনায় এআই নিয়ন্ত্রণে বেশি বিনিয়োগ করেছে। নিয়ন্ত্রণের উপর জোর দেওয়াকে ‘‌এআই এর ক্ষেত্রে নিজেকে এক প্রধান খেলোয়াড় হিসাবে চাপিয়ে দেওয়ার একটি কুলুঙ্গি’ ‌হিসাবে এবং বাইরের খেলোয়াড়দের থেকে ইউরোপীয় ইউনিয়নের বাজারকে রক্ষা করার উপায় হিসাবে দেখা হয়েছে। বর্তমান যুক্তিটি এমন নয় যে বিশ্বস্ততার মতো নৈতিক নীতিগুলি অপ্রয়োজনীয় বা সহজাতভাবে পক্ষপাতদুষ্ট। বিপরীতে, এআই নীতিশাস্ত্রের গুরুত্বকে অতিরঞ্জিত করা যায় না। এটা বোঝা দরকার যে এআই-‌এর মধ্যে এবং এর চারপাশে পক্ষপাতিত্ব সুস্পষ্ট বা সূক্ষ্ম উপায়ে বিদ্যমান থাকতে পারে। এটা বলা ক্রমবর্ধমানভাবে সহজ হয়ে উঠছে যে ডিজিটাল প্রযুক্তি আগামী দশকগুলিতে সমাজকে অর্থনৈতিক, সামাজিক এবং রাজনৈতিকভাবে গভীরভাবে প্রভাবিত করবে;‌ যদিও এটি কীভাবে ঘটবে তার কোনও স্পষ্ট চিত্র নেই।



নিয়ন্ত্রণের উপর জোর দেওয়াকে ‘‌এআই এর ক্ষেত্রে নিজেকে একজন প্রধান খেলোয়াড় হিসাবে চাপিয়ে দেওয়ার একটি কুলুঙ্গি’‌ হিসাবে এবং বাইরের খেলোয়াড়দের থেকে ইউরোপীয় ইউনিয়নের বাজারকে রক্ষা করার উপায় হিসাবে দেখা হয়েছে।


সামনের দিনে

এ পর্যন্ত তুলে ধরা দুটি প্রধান সমস্যা হল এআই আউটপুট ও এআই কথনে সুস্পষ্ট ও অন্তর্নিহিত পক্ষপাত। এআই ডেভেলপারদের এআই মডেল প্রশিক্ষণ ও বিকাশের সময় বিভিন্ন ডেটাসেট অন্তর্ভুক্ত করার জন্য নির্দেশিকা দেওয়া ও উৎসাহিত করা উচিত। গ্লোবাল পার্টনারশিপ অন আর্টিফিশিয়াল ইন্ট্যালিজেন্স (জিপিএআই)-‌এর মতো নীতিনির্ধারক ও আন্তর্জাতিক প্ল্যাটফর্ম এআই ডেভেলপার এবং অপ্রস্তুত পরিসর ও অঞ্চল থেকে গবেষক ও প্রতিষ্ঠানের মধ্যে আন্তঃসাংস্কৃতিক সহযোগিতাকে উন্নত করতে পারে। এআই উন্নয়নে বৈশ্বিক সমতা নিশ্চিত করতে বহুপাক্ষিক সহযোগিতার প্রয়োজন হবে। এআই নৈতিকতার কথনে পশ্চিমী দেশগুলির আধিপত্যের সঙ্গে ভারসাম্য বজায় রাখতে পশ্চিমী গোলকের বাইরের দেশগুলির একটি জোট প্রতিষ্ঠা করা উচিত বা ইউনেসকো-র মতো বিদ্যমান প্ল্যাটফর্মগুলি ব্যবহার করা উচিত, যাতে বিভিন্ন সাংস্কৃতিক ও সামাজিক নিয়মের সঙ্গে এআই মানগুলিকে সারিবদ্ধ করা হয়। এআই সিস্টেমগুলি যাতে বিভিন্ন সাংস্কৃতিক প্রেক্ষাপটে যথাযথভাবে কাজ করে তা নিশ্চিত করার জন্য জাতীয় ও আন্তর্জাতিক পর্যায়ে নীতি আলোচনায় অভিযোজিত নৈতিক কাঠামো অন্তর্ভুক্ত করা উচিত।



সিদ্ধার্থ যাদব ইতিহাস, সাহিত্য এবং সাংস্কৃতিক অধ্যয়নের পটভূমি সহ একজন পিএইচডি পণ্ডিত।

The views expressed above belong to the author(s). ORF research and analyses now available on Telegram! Click here to access our curated content — blogs, longforms and interviews.