डिजीटल क्षेत्रामध्ये अल्गोरिदम सातत्याने महत्त्वपुर्ण भुमिका बजावत असताना अल्गोरिदमिक पारदर्शकता वापरून ते सामाजिक मुल्यांशी संरेखित कार्य करत आहेत याची खात्री करून घेणे आवश्यक आहे.
Image Source: Getty
हा लेख द फ्रिडम टू नो : इंटरनॅशनल डे फॉर युनिव्हर्सल ॲक्सेस टू इन्फॉर्मेशन २०२४ या लेख मालिकेचा भाग आहे.
गेल्या दशकभरामध्ये, सर्च इंजिन्सच्या ऑपरेशन्सपासून ते सोशल मिडीया प्लॅटफॉर्मच्या कामांपर्यंत बऱ्याचशा ऑनलाईन क्रियाकलापांमध्ये अल्गोरिदम हे एक अदृश्य माध्यम वापरले जात आहे. शहरी नियोजन, सार्वजनिक संसाधन वाटप आणि इतर उपयोगांसह इमिग्रेशन अर्जांवरील प्रक्रियांद्वारे अल्गोरिदम हे सार्वजनिक क्षेत्रात देखील प्रवेश करत आहेत. या उपयोगांसोबतच सामाजिक राजकीय तणाव आणि काही गंभीर प्रकरणांमध्ये, हिंसाचाराच्या उद्रेकात योगदान देणाऱ्या डिजीटली वितरीत झालेल्या माहितीचाही समावेश आहे. सामाजिक-राजकीय कामकाजावर होणाऱ्या प्रभावामुळे ऑनलाइन प्लॅटफॉर्मचे नियमन करण्याची गरज जगभरातील सरकारांप्रमाणेच भारत सरकारनेही ओळखली आहे. जागतिक स्तरावर लाखो स्क्रीनवर माहिती वितरीत करणाऱ्या अल्गोरिदम आणि स्वयंचलित निर्णय प्रणालीचा मुद्दा नियामक व्यवस्थेच्या केंद्रस्थानी आहे. पारंपारिकपणे, त्या माहितीचा वापरकर्ता हा माहितीमधील निर्णय प्रक्रियेतील प्राथमिक घटक असतो. परंतु, अल्गोरिदम आणि स्वयंचलित शिफारस प्रणाली आता वापरकर्त्यांना नॉनडिस्क्रिप्ट मानकांनुसार उपलब्ध माहिती वितरित करण्यात महत्त्वपूर्ण आणि बऱ्याचअंशी अदृश्य भूमिका बजावत आहेत. ऑनलाइन प्लॅटफॉर्म वापरणाऱ्या व्यक्तींना अशा प्रणालींबद्दल माहिती नसते किंवा ते कसे कार्य करतात याबाबत विशेष जाण नसते. परिणामी, वापरकर्त्यांचे त्यांना सादर केलेल्या सामग्रीवर मर्यादित नियंत्रण असते. ही "नियंत्रण विषमता" प्रामुख्याने टेक कंपन्या आणि सार्वजनिक संस्थांबद्दलचा अविश्वास वाढवत आहे. या अस्पष्टतेचे निराकरण करण्यासाठी आणि योग्य नियामक उपाय योजण्यासाठी, प्रथम अल्गोरिदमिक पारदर्शकता काय असते हे परिभाषित करणे महत्वाचे आहे.
सामाजिक-राजकीय कामकाजावर होणाऱ्या प्रभावामुळे ऑनलाइन प्लॅटफॉर्मचे नियमन करण्याची गरज जगभरातील सरकारांप्रमाणेच भारत सरकारनेही ओळखली आहे.
ज्यावेळेस अल्गोरिदमिक प्रक्रिया पारदर्शक आणि वापरकर्त्यास दृश्य असतात त्यावेळेस अल्गोरिदमिक पारदर्शकता अनुभवता येते. ही दृश्यमानता वापरकर्त्यांना प्रणालीच्या अंतर्गत प्रक्रियांबद्दल माहितीचे निरीक्षण करण्यास अनुमती देते. याबाबत वापरकर्त्यांना दैनंदिन व्यवहारात व परस्परसंवादात माहिती नसते. याशिवाय, प्रणाली कशी कार्य करते आणि ती कोणत्या माध्यमांद्वारे अंतिम उत्तरांपर्यंत पोहोचते याबद्दल तज्ञ नसलेल्या लोकांना माहिती उपलब्ध करून दिल्यास, ही पारदर्शकता निर्माण होते. अल्गोरिदमिक निर्णय-प्रणाली वापरकर्त्यांना वैयक्तिकृत सामग्री वितरीत करण्यासाठी शिफारस करणाऱ्या सिस्टमसह एकत्रितपणे कार्य करते. हे अल्गोरिदमिक लॉजिक "बाजार विभाजनाच्या तर्काचा वापर करून" "वैयक्तिक वापरकर्त्यांना बाजारपेठेच्या दृष्टिकोनातून" महत्त्व देते असा युक्तिवाद देखील केला जाऊ शकतो. लोकसंख्याशास्त्रीय उपसमूहांमध्ये लोक कसे विभागलेले असतात, तसेच त्यांना एकूण उपलब्ध सामग्रीचा फक्त एक छोटा उपसंच सादर केला जातो किंवा अवांछित आणि अनपेक्षित परिणाम टाळण्यासाठी ते अल्गोरिदम कसे बदलू शकतात, याबाबत लोकांना फार माहिती नसते.
अल्गोरिदमिक पारदर्शकतेच्या अभावामुळे "लोक सिद्धांत" निर्माण होतात. या सिद्धांतामध्ये अल्गोरिदमिक पूर्वाग्रह आणि सरकारी किंवा इतर संस्थांमधील नकारात्मक घटक यांच्यातील परस्पर संबंधांमधील हेतुपुरस्सर परिणाम यावर भर देण्यात येतो. तंत्रज्ञान क्षेत्र आणि सार्वजनिक संस्था अर्थपूर्ण नियामक उपाययोजना करण्याचा प्रयत्न करत असल्याने अपारदर्शक तंत्रज्ञानामुळे लोकांचा त्यांच्यावरील विश्वास कमी होतो. विविध नियामक प्रयत्नांनी अनेक वर्षांपासून ऑनलाइन मीडिया प्लॅटफॉर्मना जबाबदार धरण्याचा प्रयत्न केला आहे. म्यानमारमधील २०१८ च्या नरसंहारात मेटाच्या भूमिकेवर अंतर्गत मानवी हक्क प्रभाव मूल्यांकन (ह्युमन राईट्स इंपॅक्ट असेसमेंट - एचआरआयए) करण्यासाठी मेटा (तेव्हाचे फेसबुक) वर दबाव आणला गेला होता. २०२० मध्ये, मेटाने निवडणूकीबाबतची चुकीची माहिती आणि साथीच्या आजारादरम्यान वैद्यकीय चुकीची माहिती याबाबतच्या त्यांच्या धोरणांवरील आणखी एक ऑडिट जारी केले होते. भारतातील द्वेषयुक्त भाषणांचा प्रसार आणि हिंसाचार भडकावण्यामध्ये मेटाच्या भूमिकेवर २०२० मध्ये आणखी एका एचआरआयएची नियुक्ती करण्यात आली होती. अगदी अलीकडे, यूएस सरकार अल्गोरिदमिक पूर्वग्रह, हेरफेर आणि पाळत ठेवण्याच्या आरोपांमुळे चिनी प्लॅटफॉर्म टिकटॉकवर बंदी घालण्याचा प्रयत्न करत आहे. ऑगस्ट २०२४ मध्ये, ब्राझीलच्या सुप्रीम फेडरल कोर्टाने आपल्या प्लॅटफॉर्मवर चुकीची माहिती पसरवल्याबद्दल एक्स (पूर्वीचे ट्विटर) ला देशात सेवा प्रदान करण्यापासून अवरोधित केले आहे. तसेच सप्टेंबर २०२४ मध्ये, टेलिग्राम या मेसेजिंग ॲपच्या संस्थापकाला फ्रान्समध्ये अटक करण्यात आली होती आणि प्लॅटफॉर्मवर कथित गुन्हेगारी क्रियाकलापांचा आरोप ठेवण्यात आला होता. राष्ट्रीय बंदी आणि अटकेपर्यंतच्या उपाययोजनांचे परिणाम अस्पष्ट असले तरी, अल्गोरिदमिक पारदर्शकता जागतिक स्तरावर महत्त्वपूर्ण मुद्दा ठरला आहे ही बाब स्पष्ट आहे.
विविध नियामक संस्थांनी अनेक वर्षांपासून ऑनलाइन मीडिया प्लॅटफॉर्मना जबाबदार धरण्याचा प्रयत्न केला आहे.
भारत आणि अमेरिका यासारखे देश डिजीटल कंटेन्टची सर्वात मोठी बाजारपेठ आहेत. तसेच या देशांमध्ये विचार आणि अभिव्यक्तीचे स्वातंत्र्य संविधानामध्ये विशद करण्यात आले आहे. त्यामुळे ऑनलाइन मीडिया प्लॅटफॉर्मचे नियमन करण्याची समस्या जटिल बनली आहे. अल्गोरिदमिक निर्णय घेण्याच्या नियमनात समतोल राखण्यासाठी सरकारी ओव्हररीचशिवाय एक उपयुक्त पद्धत असलेल्या टॉप-डाउन कंटेंट मॉडरेशन पध्दतीऐवजी बाह्य ऑडिट आणि अल्गोरिदमिक पारदर्शकता आणि स्पष्टीकरण मानकांना अनिवार्य करणारा बॉटम-अप दृष्टीकोन अंमलात आणला जात आहे. अल्गोरिदमबाबतचे स्पष्टीकरण मोठ्या प्रमाणात “व्हाइट-बॉक्स” आणि “ब्लॅक-बॉक्स” मध्ये विभागले गेले आहे. सिस्टम विशिष्ट परिणामांवर येण्यासाठी इनपुटवर प्रक्रिया कशी करते आणि स्कोअर कशी करते हे “व्हाइट-बॉक्स” मध्ये स्पष्ट केले जाते. तसेच सिस्टीम शिफारशी तयार करण्यासाठी त्याचे तर्क आणि डेटा स्रोत कसे वापरले जातात यावर प्रकाश टाकला जातो. तर ब्लॅक-बॉक्स प्रणाली काही विशिष्ट परिणाम का निर्माण करते याचे औचित्य प्रदान करते आणि सिस्टम विशिष्ट प्रकारे कसे किंवा का वागते हे स्पष्ट न करता तिच्या प्रेरणांचे मूल्यांकन करते.
जून २०२३ मध्ये मेटाने त्याच्या एक प्लॅटफॉर्मवरील विविध यंत्रणा सामग्रीचे वितरण अल्गोरिदम कसे करतात हे स्पष्ट करणारे एक सर्वसमावेशक गाईड प्रसिद्ध केले, हे व्हाईट बॉक्सचे महत्त्वाचे उदाहरण आहे. यामध्ये सिस्टीम इन्व्हेंटरी, लीव्हरेज आणि प्रोसेस सिग्नल, रँक कंटेंट आणि वापरकर्ते त्यांच्या गरजेनुसार अल्गोरिदम कसे समायोजित करू शकतात हे स्पष्ट केले आहे. कंपनीने त्याच्या अल्गोरिदमचे ऑडिट आणि चाचणी करण्यासाठी बाह्य संशोधक आणि भागधारकांसाठी अंतर्गत डेटा देखील खुला केला आहे. तर दुसरीकडे, एक्सने मार्च २०२३ मध्ये त्याच्या स्त्रोत कोडचा एक भाग लोकांसाठी रिलीज केला आहे आणि त्याची शिफारस करणारी प्रणाली फिल्टर आणि फनेल करण्यासाठी विशिष्ट वापरकर्त्याच्या क्रियांना प्राधान्य देऊन कसे कार्य करते याबद्दल उच्च-स्तरीय स्पष्टीकरण दिले असले तरी कंपनीने शिफारस करणाऱ्या प्रणालीच्या मागे त्याचे मोठे एआय मॉडेल कसे कार्य करतात याबद्दल अंतर्दृष्टी प्रदान केली नाही आणि कंपनीने स्पष्ट करण्यासाठी लाखो लोकांच्या पूलमधून केवळ १५०० ट्विटचा एक छोटा डेटासेट निवडला असल्याचे तज्ञांनी स्पष्ट केले आहे, हे ब्लॅकबॉक्सचे उदाहरण आहे. शिवाय, कंपनीने बाह्य संशोधकांना त्याच्या अल्गोरिदममध्ये प्रवेश करण्यापासून प्रतिबंधित केले आहे आणि त्याच्या अंतर्गत उत्तरदायित्व चमूचा आकार कमी केला. नियामक आणि धोरणकर्त्यांना अल्प ते मध्यम कालावधीत इच्छित परिणाम साध्य करण्यासाठी ऑनलाइन मीडिया प्लॅटफॉर्मद्वारे व्हाईट-बॉक्स वर्णनांचे प्रकाशन अनिवार्य करण्यास प्राधान्य देणे आवश्यक आहे.
लेखापरीक्षकांची विश्वासार्हता, लेखापरीक्षणाचे उद्दिष्ट, धोरणात्मक बदलांची अंमलबजावणी करण्याची पद्धत आणि यश व अपयश मोजण्यासाठी पूर्वनिर्धारित किंवा सर्वसंमतीने स्वीकारलेल्या मानकांचे पालन यांचा अहवालाच्या परिणामकारकतेवर परिणाम होतो.
अल्गोरिदमिक निर्णय घेण्याचे नियमन करण्याची दुसरी पद्धत म्हणजे मजबूत बाह्य ऑडिट होय. मेटाद्वारे यापूर्वी सादर करण्यात आलेले २०१८ आणि २०२० चे ऑडिट अहवाल हे अर्थपूर्ण धोरण बदलांसाठी वचनबद्ध नसल्याने अप्रामाणिक असल्याची टीका करण्यात आली आहे. मेटाच्या २०२० मधील एचआरआयएला भारतातील टीकेचा सामना करावा लागला होता तसेच त्याचे ऑडिट अहवाल म्हणजे "व्हाइटवॉशिंग" करण्याचा प्रयत्न असल्याचेही बोलले गेले होते. लेखापरीक्षकांची विश्वासार्हता, लेखापरीक्षणाचे उद्दिष्ट, धोरणात्मक बदलांची अंमलबजावणी करण्याची पद्धत आणि यश व अपयश मोजण्यासाठी पूर्वनिर्धारित किंवा सर्वसंमतीने स्वीकारलेल्या मानकांचे पालन यांचा अहवालाच्या परिणामकारकतेवर परिणाम होतो. म्हणून, बाह्य ऑडिटमधून विश्वासार्हता आणि अनुपालनाचे संकेत मिळतात. अल्गोरिदमिक पारदर्शकता सुनिश्चित करण्यासाठी बाह्य ऑडिट आवश्यक आहेत. याव्यतिरिक्त, कंपनी किंवा सरकारशी संलग्न नसलेल्या ऑडिटिंग प्रक्रियेतील मध्यस्थांना नियुक्त केले जाऊ शकते, असेही सुचित करण्यात आले आहे. ऑनलाइन मीडिया प्लॅटफॉर्मद्वारे प्रदान केलेल्या संवेदनशील डेटामध्ये प्रवेश करण्यास सक्षम असलेले हे मध्यस्थ सरकारी अतिरेक रोखण्यासाठी एका भिंती प्रमाणे काम करू शकतात. धोरणकर्ते आणि नागरी समाज गट अल्गोरिदमिक ओव्हररीचचे नियमन करण्याच्या अधिक व्यापक आणि दीर्घकालीन पद्धतींचा शोध घेत असताना, मजबूत ऑडिटसह अल्गोरिदमसाठी व्हाईट-बॉक्स स्पष्टीकरण अनिवार्य करण्याचा हा बॉटम-अप दृष्टीकोन अल्प ते मध्यम कालावधीसाठी उपयुक्त ठरू शकतो.
डिजिटल क्षेत्रातील अल्गोरिदमच्या अदृश्यतेमुळे ते तटस्थ दिसतात. परंतू, अल्गोरिदमिक निर्णय घेण्याची प्रणाली ही जाणीवपूर्वक आणि अवचेतन मूल्यांवर आधारित विशिष्ट परिणामांसाठी ऑप्टिमाइझ केलेल्या "संज्ञानात्मक आणि सामाजिकदृष्ट्या पुनर्रचित कलाकृती" च्या अगदी जवळ जाणारी आहे. अशी मूल्ये सामाजिक अपेक्षांशी जुळतात का याची खात्री करण्यासाठी त्यांचे मूल्यमापन करणे आवश्यक आहे. हे संरेखन सुलभ करण्यासाठी अनेक पावले उचलली जाऊ शकतात. सर्वप्रथम, धोरणकर्ते, नियामक, नागरी हक्क गट आणि उद्योग क्षेत्रातील तज्ञांनी ऑडिटिंग अल्गोरिदमसाठी मानके आणि फ्रेमवर्क विकसित करण्यासाठी सहयोग करणे आवश्यक आहे. दुसरी बाब म्हणजे, सरकार आणि खाजगी क्षेत्र हे स्वतंत्र मध्यस्थ एजन्सी स्थापन करण्यासाठी सहयोग करू शकतात. अशा एजन्सीज सरकारी अतिरेक रोखून ऑनलाइन मीडिया प्लॅटफॉर्मद्वारे वापरल्या जाणाऱ्या डेटामध्ये सुरक्षितपणे प्रवेश करू शकतात. तिसरे, अल्गोरिदमिक निर्णय-प्रणाली वापरणाऱ्या कंपन्यांचे कमी-प्रभाव आणि उच्च-प्रभावामध्ये वर्गीकरण केले जाऊ शकते. कमी-प्रभाव असलेल्या सिस्टम डेव्हलपर्सना (ऑनलाइन स्ट्रीमिंग सेवा) त्यांच्या अल्गोरिदमचे अंतर्गत ऑडिटसह पूरक उच्च-स्तरीय वर्णन प्रदान करण्यासाठी नियामक बंधने घालणे शक्य आहे. सार्वजनिक क्षेत्रातील आणि मोठ्या सोशल मीडिया प्लॅटफॉर्ममध्ये वापरल्या जाणाऱ्या उच्च-प्रभाव प्रणालीच्या विकासकांना त्यांच्या अल्गोरिदमचे सर्वसमावेशक व्हाईट-बॉक्स वर्णन प्रदान करणे अनिवार्य करणे गरजेचे आहे. तसेच ते पूर्वनिर्धारित मानकांवर आधारित बाह्य ऑडिटच्या अधीन असायला हवे. चौथी बाब म्हणजे, नियामकांनी सोशल मीडिया प्लॅटफॉर्मना त्यांच्या सिस्टमच्या वापरकर्ता इंटरफेसमध्ये वापरकर्त्याच्या क्रिया कशा स्कोअर केल्या जातात आणि माहिती वितरित करण्यासाठी वापरल्या जातात हे स्पष्ट करणारी साधने समाविष्ट करणे अनिवार्य करायला हवे.
सिद्धार्थ यादव इतिहास, साहित्य आणि सांस्कृतिक अभ्यासाची पार्श्वभूमी असलेले पीएचडी स्कॉलर आहेत.
The views expressed above belong to the author(s). ORF research and analyses now available on Telegram! Click here to access our curated content — blogs, longforms and interviews.
Siddharth Yadav is a PhD scholar with a background in history, literature and cultural studies. He acquired BA (Hons) and MA in History from the ...
Read More +
PREV
