মিথ্যার অ্যালগরিদম: এআই-সৃষ্ট ভুয়ো তথ্য নিয়ন্ত্রণের সমস্যা

জেনারেটিভ এআই ভুয়ো তথ্যের পুরনো সীমাবদ্ধতাগুলো দূর করেছে: যেমন মানুষের শ্রম, সীমিত প্রচার এবং উচ্চ সমন্বয় ব্যয়। এটি স্বল্প খরচে বিপুল পরিমাণে কনটেন্ট বা বিষয়বস্তু তৈরি করতে সক্ষম, সৃষ্টি ও তার প্রভাবের মধ্যবর্তী সময়কে হ্রাস করতে পারে এবং সীমিত সংখ্যক পক্ষকেই কৌশলগত পরিসরে কাজ করার সুযোগ দেয়। এই নিবন্ধে আলোচনা করা হয়েছে যে, কী ভাবে এআই-চালিত ভুয়ো তথ্য বিদ্যমান আইনি কাঠামোকে চ্যালেঞ্জ করে। এর পাশাপাশি এই নিবন্ধে বিশ্বাস ও সুরক্ষার নীতির উপর ভিত্তি করে একটি এআই গভর্ন্যান্স মডেলের প্রস্তাবও করা হয়েছে।

নিউজগার্ডের প্রতিবেদন অনুযায়ী, ১৬টি ভাষায় এআই-নির্মিত সংবাদ সাইটের সংখ্যা বেড়ে ২,০৮৯-এরও বেশি হয়েছে। এই সাইটগুলি প্রায় কোনও মানবিক তত্ত্বাবধান ছাড়াই পরিচালিত হয়। ২০২৫ সালের অগস্ট মাসে শীর্ষস্থানীয় চ্যাটবটগুলি ৩৫ শতাংশ ক্ষেত্রে ভুয়ো তথ্য প্রচার করেছে, যার পরিমাণ এক বছর আগে ছিল ১৮ শতাংশ। প্ল্যাটফর্মগুলি নিয়মিত ভাবে সত্যের চেয়ে বেশি গুরুত্ব দেয় সেই সব বিষয়কেই, যা ব্যবহারকারীদের আকৃষ্ট করে।

উৎস: নিউজগার্ড এআই মনিটর এবং এনট্রাস্ট আইডেন্টিটি ফ্রড রিপোর্ট

এই পরিবর্তনের গতি অনুধাবন করা কঠিন। ২০২৪ সালে প্রতি পাঁচ মিনিটে একটি করে ডিপফেক-জনিত আক্রমণ সংঘটিত হয়েছে। এক বছরে ডিজিটাল নথি জালিয়াতি ২৪৪ শতাংশ বৃদ্ধি পেয়েছে। ‘চোখে দেখলে তবেই বিশ্বাস করা শ্রেয়’… এ হেন ধারণার অবক্ষয় হচ্ছে, যা এখন ‘মিথ্যাবাদীর সুবিধে’-য় (লায়ারস ডিভিডেন্ড) রূপান্তরিত হচ্ছে। ভিডিয়ো কেলেঙ্কারিতে ধরা পড়া কোনও রাজনীতিবিদ এখন সহজেই সেটিকে ডিপফেক বলে দাবি করতে পারেন।

এই হুমকি দু’টি ক্ষেত্রে কাজ করে: জাতীয় নিরাপত্তা, যেখানে সঙ্কটের সময় বাস্তব পরিস্থিতিকে বিকৃত করতে কৃত্রিম বিষয়বস্তু ব্যবহার করা হয় এবং ব্যক্তিগত মর্যাদা, যেখানে এআই-সৃষ্ট ভুয়ো তথ্যকে ব্যক্তির বিরুদ্ধে অস্ত্র হিসেবে ব্যবহার করা হয়।

২০২৫ সালের সেপ্টেম্বর মাসে গোল্যাক্সি-র ফাঁস হওয়া তথ্য এই জগতের একটি জানালা খুলে দিয়েছিল। বেজিং-ভিত্তিক সংস্থা গোল্যাক্সি থেকে ফাঁস হওয়া নথিগুলি একটি ‘স্মার্ট প্রোপাগান্ডা সিস্টেম’-এর কথা প্রকাশ করে। এটি কৃত্রিম বুদ্ধিমত্তার (আর্টিফিশিয়াল ইন্টেলিজেন্স বা এআই) তৈরি করা একদল চরিত্র, যাদেরকে আসল মানুষের মতো দেখতে ও চিন্তা করার জন্য তৈরি করা হয়েছে। এই চরিত্রগুলি তাদের লক্ষ্যবস্তুদের মনস্তাত্ত্বিক প্রোফাইল তৈরি করতে লক্ষ লক্ষ ডেটা পয়েন্ট ব্যবহার করে। তারা পরিস্থিতির সঙ্গে দিব্যি নিজেদের মানিয়ে নেয় এবং মানুষের বিশ্বাস অর্জন করে। একটি ডসিয়ারে দেখা গিয়েছে যে, এই সিস্টেমটি ২,০০০ বিশিষ্ট ব্যক্তি এবং মার্কিন কংগ্রেসের ১১৭ জন সদস্যকে লক্ষ্যবস্তু করেছিল। ‘এলএলএম গ্রুমিং’ ব্যবহার করে এটি পক্ষপাতদুষ্ট ডেটা দিয়ে সার্চ রেজাল্ট ভরিয়ে দিতে, যাতে নির্দিষ্ট ব্যক্তি যখন কোনও বিষয় নিয়ে সার্চ করে, তখন শীর্ষ ফলাফলগুলি মনগড়া বয়ানকেই সমর্থন করে। এটিই হল কগনিটিভ ওয়ারফেয়ার বা জ্ঞানগত যুদ্ধ।

ভারতীয় প্রেক্ষাপট

কৃত্রিম বুদ্ধিমত্তা দ্বারা সৃষ্ট ভুল তথ্যের শিকার হওয়া দেশগুলির মধ্যে ভারত অন্যতম। ৪৭ শতাংশ ভারতীয় প্রাপ্তবয়স্ক ব্যক্তি কৃত্রিম বুদ্ধিমত্তার ভয়েস-ক্লোনিং বা ডিপফেক কেলেঙ্কারির শিকার হয়েছেন, যা বিশ্বব্যাপী গড় ২৫ শতাংশের প্রায় দ্বিগুণ। ২০২৫ সালে ভারতের শীর্ষস্থানীয় ফ্যাক্ট-চেকাররা একটি তীব্র বৃদ্ধি নথিভুক্ত করেছে। খণ্ডন করা সমস্ত তথ্যের ২০ শতাংশেরও বেশি ছিল এআই-সৃষ্ট বিষয়বস্তু, যা আগের বছরের তুলনায় দ্বিগুণেরও বেশি। এই হুমকি দু’টি ক্ষেত্রে কাজ করে: জাতীয় নিরাপত্তা, যেখানে সঙ্কটের সময় বাস্তব পরিস্থিতিকে বিকৃত করতে কৃত্রিম বিষয়বস্তু ব্যবহার করা হয় এবং ব্যক্তিগত মর্যাদা, যেখানে এআই-সৃষ্ট ভুয়ো তথ্যকে ব্যক্তির বিরুদ্ধে অস্ত্র হিসেবে ব্যবহার করা হয়। গত এক বছরে ঘটে যাওয়া দু’টি উল্লেখযোগ্য ঘটনা এই প্রবণতাগুলিকেই তুলে ধরে।

পহেলগাম সন্ত্রাসবাদী হামলা

জাতীয় নিরাপত্তা এখন তথ্য পরিমণ্ডলের সঙ্গে ওতপ্রোত ভাবে জড়িত। ২০২৫ সালের ২২ এপ্রিল কাশ্মীরের পহেলগাম সন্ত্রাসবাদী হামলাটি সংবাদের শিরোনামে উঠে এসেছিল। হামলাটি ছিল একটি মর্মান্তিক ঘটনা। এতে ২৬ জন বেসামরিক নাগরিক নিহত হন। কিন্তু এর পরবর্তী পরিস্থিতি ছিল নিঃসন্দেহে তথ্যযুদ্ধ। কয়েক ঘণ্টার মধ্যেই টেলিগ্রাম এবং এক্স মনগড়া বয়ানে ছেয়ে যায়। ডিপফেক ভিডিয়োতে ঊর্ধ্বতন সামরিক কর্মকর্তাদের ‘ফলস ফ্ল্যাগ’ অভিযান নিয়ে কথা বলতে দেখা যায়। কৃত্রিম বুদ্ধিমত্তায় তৈরি ছবিতে কাল্পনিক সামরিক বিজয়ের প্রমাণ হিসেবে মৃতদেহ ও জঙ্গিদের চিত্রিত করা হয়। উত্তেজনা বাড়ানোর জন্য এই ছবিগুলিতে ধর্মীয় ও সাম্প্রদায়িক প্রতীকও ব্যবহার করা হয়েছিল।

ভারত সরকারের প্রেস ইনফরমেশন ব্যুরো সঙ্কটের সময় ভুল তথ্যের সাতটি প্রধান ঘটনা চিহ্নিত করেছে। কিন্তু ক্ষতি যা হওয়ার তা হয়ে গিয়েছিল। ভুয়ো বিষয়বস্তু সরকারি হস্তক্ষেপকে বিলম্বিত করেছিল এবং নিরাপত্তা বাহিনীর উপর জনগণের আস্থা ক্ষুণ্ণ করেছিল। বিরোধী পক্ষগুলি শোকাহত পরিবারের ছবিকে বীভৎস নাচের দৃশ্যে রূপান্তরিত করতে এআই ব্যবহার করেছিল।

লিঙ্গভিত্তিক ক্ষতি

২০২৬ সালের জানুয়ারি মাসে এক্স প্ল্যাটফর্মের একজন ইউজার গ্রোক এআই দ্বারা তৈরি ভুল তথ্যের শিকার হন। একজন ব্যক্তি এআই-কে নির্দেশ দিয়ে তার প্রোফাইল ছবি ব্যবহার করে একটি ভুয়ো যৌন উত্তেজক ছবি তৈরি করেন (গ্রোক সরাসরি এক্স-এর মধ্যে সংযুক্ত এবং ক্ষতিকর ভুয়ো বিষয়বস্তু তৈরি করার জন্য ইউজারকে প্ল্যাটফর্ম থেকে বেরিয়ে অন্য প্ল্যাটফর্ম ব্যবহার করতে হয় না)। যখন ইউজার ছবিটি সম্পর্কে অভিযোগ করেন, তখন এক্স উত্তর দেয় যে, এটি তাদের নিয়ম লঙ্ঘন করেনি। অপরাধী তার ব্যক্তিগত ইনবক্সে আরও ভুয়ো ছবি পাঠাতে থাকে। পরবর্তী সময়ে ইলেকট্রনিক্স ও তথ্য প্রযুক্তি মন্ত্রণালয় (এমইআইটিওয়াই) এক্স-কে একটি নোটিস জারি করে সতর্ক করে যে, ভারতের তথ্য প্রযুক্তি আইন এবং আইটি বিধিমালা ২০২১(১)-এর অধীনে বিধিবদ্ধ যথাযথ সতর্কতা পালনে ব্যর্থতার কারণে অনলাইন মধ্যস্থতাকারী হিসাবে এর নিরাপদ আশ্রয় সুরক্ষা হারানোর ঝুঁকি রয়েছে। এক্স-এর প্রাথমিক প্রতিক্রিয়াকে ‘অপ্রতুল’ বলে মনে করা হয়েছিল, যার ফলে গ্রোকের কাঠামো এবং ফিল্টারিং প্রক্রিয়া সম্পর্কে স্বচ্ছতার দাবিতে একটি দ্বিতীয় বিজ্ঞপ্তি জারি করা হয়। এটি প্রতিক্রিয়াশীল অপসারণ থেকে সরে এসে প্ল্যাটফর্মের কাঠামোগত জবাবদিহিতার লক্ষ্যে নিয়ন্ত্রক সংস্থার একটি পরিবর্তনের ইঙ্গিত দেয়।

ভবিষ্যৎ কর্মপন্থা

১. একটি স্তরভিত্তিক ঝুঁকি শ্রেণিবিন্যাস কাঠামো তৈরি করা 

এমইআইটিওয়াই-এর তরফে ২০২৫ সালের নভেম্বর মাসে প্রকাশিত এআই গভর্ন্যান্স নির্দেশিকা একটি প্রশংসনীয় এবং ব্যাপক কাঠামো প্রদান করে। তবে নির্দেশিকাগুলি একটি ঝুঁকি কাঠামো প্রস্তাব করলেও সেগুলির কোনও বিধিবদ্ধ শক্তি নেই। যা প্রয়োজন হতে পারে তা হল, ভারতের সম্মুখীন কিছু নির্দিষ্ট ঝুঁকির সঙ্গে সামঞ্জস্য রেখে এটিকে আরও শক্তিশালী করা। তিনটি বিভাগে বাধ্যতামূলক প্রাক-মোতায়েন সম্মতি অন্তর্ভুক্ত করা যেতে পারে: সাম্প্রদায়িক বা জাতীয় নিরাপত্তা সঙ্কটের সময় এআই-উৎপাদিত বিষয়বস্তু; বাস্তব ব্যক্তিদের সম্পর্কিত অডিয়ো ফাইল, ভিডিয়ো ও চিত্র তৈরি করতে সক্ষম এআই; এবং নির্বাচনী প্রভাব বিস্তারের জন্য ব্যবহার করা এআই। এগুলি ছাড়া কম ঝুঁকিপূর্ণ অ্যাপ্লিকেশনগুলি স্বেচ্ছামূলক কোডের অধীনে চলতে থাকবে। অপূরণীয় ক্ষতির সম্ভাবনা যত বেশি হবে, রাষ্ট্রকে তত তাড়াতাড়ি হস্তক্ষেপ করতে হবে।

২. এমবেডেড এআই টুলের জন্য প্ল্যাটফর্মের দায়বদ্ধতাকে পুনর্কল্পনা করা

আইটি আইনের ধারা ৭৯(২) শুধুমাত্র নিষ্ক্রিয় মধ্যস্থতাকারীদের নিরাপদ আশ্রয় প্রদান করে। যখন এক্স তার ইন্টারফেসে গ্রোক এআই-কে এমবেড করে, তখন এটি একটি নির্মাতা হয়ে ওঠে, মোটেই আর মাধ্যমে সীমাবদ্ধ থাকে না। ডিজিটাল ব্যক্তিগত তথ্য সুরক্ষা আইন এই বিষয়টিকে আরও শক্তিশালী করে। কারণ এটি ব্যক্তিগত তথ্য কী ভাবে প্রক্রিয়াজাত করা হয় তার জন্য বিশ্বস্ত তথ্য ব্যবহারকারীকে (ডেটা ফিডুশিয়ারি) জবাবদিহি করতে বাধ্য করে। যখন গ্রোক কোনও প্রকৃত ব্যক্তির ছবি ব্যবহার করে ক্ষতিকর বিষয়বস্তু তৈরি করে, তখন সেটি তথ্যের প্রক্রিয়াকরণ এবং প্ল্যাটফর্মটি হয়ে ওঠে ফিডুশিয়ারি। ধারা ৭৯ দ্বারা প্রদত্ত দায়মুক্তি ডিপিডিপি আইন দ্বারা প্রয়োজনীয় জবাবদিহিতার সঙ্গে সহাবস্থান করতে পারে না। আইটি বিধিমালায় একটি সুনির্দিষ্ট সংশোধনী এমন কোনও প্ল্যাটফর্মকে নিরাপদ আশ্রয় দেওয়া এড়াতে পারে, যা ভুল তথ্য তৈরিতে সক্ষম একটি জেনারেটিভ এআই টুল ব্যবহার করে। সংক্ষেপে বললে, যে প্ল্যাটফর্ম অস্ত্র তৈরি করে, সে ক্ষত সম্পর্কে অজ্ঞতার দাবি করতে পারে না।

৩. আপলোডের সময় বাধ্যতামূলক ওয়াটারমার্কিং নিশ্চিত করা 

আইটি বিধির ২০২৬ সালের ফেব্রুয়ারি মাসের সংশোধনীতে এআই-উৎপাদিত বিষয়বস্তুর জন্য মেটাডেটা ট্রেসিং বাধ্যতামূলক করা হয়েছে, যা একটি সঠিক পদক্ষেপ। কিন্তু সেই ট্রেসেবিলিটি কী ভাবে কাজ করবে, তা এতে সংজ্ঞায়িত করা হয়নি। অন্য দিকে, ডিপিডিপি বিধি অনুসারে ডেটা ফিডুশিয়ারিদের বাস্তব ব্যক্তির প্রতিকৃতি জড়িত ডেটা প্রক্রিয়াকরণ এবং এআই-উৎপাদিত বিষয়বস্তুর লগ বজায় রাখতে হবে। এমইআইটিওয়াই ওয়াটারমার্কিং মানগুলির জন্য ন্যূনতম কাঠামোকে নির্দিষ্ট করে বাধ্যতামূলক প্রযুক্তিগত মান জারি করতে পারে।

৪. আইটি আইনের ধারা ৬৯এ-এর অধীনে একটি সঙ্কটকালীন ভুয়ো তথ্য সংক্রান্ত প্রোটোকল অন্তর্ভুক্ত করা

ধারা ৬৯এ(৩) জাতীয় নিরাপত্তা, জনশৃঙ্খলা বা সার্বভৌমত্বের স্বার্থে বিষয়বস্তু ব্লক করার ক্ষমতা প্রদান করে। এর সঙ্গে একটি প্রয়োগকারী ব্যবস্থা থাকতে পারে যা আরও দ্রুত বাস্তবায়ন করা যেতে পারে। উদাহরণস্বরূপ, পহেলগামের ঘটনার সময় পিআইবি কৃত্রিম ভুয়ো তথ্য শনাক্ত করার আগেই বিষয়বস্তুটি তার কাজ করে ফেলেছিল। যখন কোনও মনোনীত কর্তৃপক্ষ জরুরি অবস্থা ঘোষণা করে, তখন গুরুত্বপূর্ণ সোশ্যাল মিডিয়া মধ্যস্থতাকারীদের(৪) একটি নির্দিষ্ট সময়সীমার মধ্যে এআই-শনাক্তকরণের সুইপ টুল সক্রিয় করা উচিত এবং পর্যালোচনার জন্য অপেক্ষারত অবস্থায় প্রমাণিত কৃত্রিম বিষয়বস্তু দমন করা উচিত। গুরুত্বপূর্ণ প্রশ্নটি পদক্ষেপ করা হবে কি না তা নয়, বরং কোনটি কৃত্রিম বিষয়বস্তু হিসেবে গণ্য হবে, তা কে নির্ধারণ করবে, তা নিয়ে। এই ক্ষমতা সেই কর্তৃপক্ষের হাতে থাকতে পারে না, যারা জরুরি অবস্থা ঘোষণা করেছে। ভারতের এআই গভর্ন্যান্স নির্দেশিকায় প্রস্তাবিত এআই সেফটি ইনস্টিটিউটকে কৃত্রিম বিষয়বস্তু শনাক্ত করার দায়িত্ব দেওয়া যেতে পারে। সরকার নয়, বরং ইনস্টিটিউটটি ফরেনসিক পরীক্ষা পরিচালনা করতে পারে এবং এই বিষয়ে মাত্রা নির্ধারণ ও বজায় রাখতে পারে।

পুরুষরাজ পট্টনায়ক অবজার্ভার রিসার্চ ফাউন্ডেশনের সেন্টার ফর ডিজিটাল সোসাইটিজের রিসার্চ অ্যাসিস্ট্যান্ট।

[১] তথ্য প্রযুক্তি (মধ্যস্থতাকারী নির্দেশিকা এবং ডিজিটাল মিডিয়া নীতিমালা) বিধিমালা, ২০২১, যা ভারতে ২৫ ফেব্রুয়ারি, ২০২১-এ কার্যকর করা হয়েছে। এটি সামাজিক মাধ্যম, ডিজিটাল সংবাদ এবং ওটিটি প্ল্যাটফর্মগুলিকে নিয়ন্ত্রণ করে।

[২] তথ্য প্রযুক্তি আইন, ২০০০-এর ধারা ৭৯ কিছু ক্ষেত্রে মধ্যস্থতাকারীর দায় থেকে অব্যাহতি প্রদান করে।

[৩] তথ্য প্রযুক্তি আইন, ২০০০-এর ধারা ৬৯ক, যে কোনও কম্পিউটার রিসোর্সের মাধ্যমে যে কোনও তথ্যে জনসাধারণের প্রবেশাধিকার বন্ধ করার জন্য নির্দেশ জারি করার ক্ষমতা প্রদান করে।

[৪] ভারতে একজন উল্লেখযোগ্য সামাজিক মাধ্যম মধ্যস্থতাকারী (এসএসএমআই) হল এমন একটি সামাজিক মাধ্যম প্ল্যাটফর্ম, যার ৫ মিলিয়নেরও বেশি নিবন্ধিত ব্যবহারকারী রয়েছে, যা তথ্য প্রযুক্তি বিধিমালা ২০২১-এর অধীনে কঠোর ভাবে মেনে চলতে বাধ্য।

• Artificial Intelligence
• এআই তথ্য শাসন
• এআই দ্বারা সৃষ্ট ভুল তথ্য
• এআই দ্বারা সৃষ্ট সংবাদ
• কৃত্রিম বুদ্ধিমত্তা
• ডিপফেক
• ভারত
• সাইবার ও প্রযুক্তি
• সাধারণ এআই দ্বারা সৃষ্ট ভুল তথ্য

The views expressed above belong to the author(s). ORF research and analyses now available on Telegram! Click here to access our curated content — blogs, longforms and interviews.

PREV NEXT