कृत्रिम बुद्धिमत्तेचे फायदे लक्षात आले आहेत आणि धोके दूर केले आहेत याची खात्री करण्यासाठी, अल्गोरिदमिक ऑडिटिंग या प्रणाली कशा कार्य करतात याचे विश्लेषण करण्यात मदत करू शकतात आणि प्रक्रियेतील व्यापक सामाजिक हानी टाळू शकतात.
कृत्रिम बुद्धिमत्ता (एआय डेव्हलपमेंट टूल्स आणि डेटासेट) मध्ये वाढीव प्रवेशासह, भारतातील सरकारी संस्था, व्यवसाय आणि ना-नफा संस्था अभूतपूर्व वेगाने एआय प्रणाली तैनात करत आहेत. याचा लाखो वापरकर्त्यांवर परिणाम होतोय. एआय लॉन्च झाल्यापासून एका वर्षापेक्षा कमी कालावधीत, भारत सरकारच्या फेशियल रेकग्निशन अल्गोरिदम डिजी यात्राचा वापर 17.4 लाख लोकांनी फ्लाइटमध्ये चढण्यासाठी केला आहे. Haptik सारख्या संभाषणात्मक एआय चॅटबॉट्सपासून ते ShareChat सारख्या मशीन लर्निंग-सक्षम सामग्री निर्मिती प्लॅटफॉर्मपर्यंत, भारतातील एआय स्टार्टअप्स वेगाने वाढत आहेत. त्यांनी 500 दशलक्ष वापरकर्त्यांवर वैयक्तिकरित्या प्रभाव टाकला आहे. मात्र, या व्यापक उपयोजनादरम्यान, विद्यमान हानिकारक सामाजिक पूर्वाग्रहांची प्रतिकृती, मजबुतीकरण किंवा विस्तार करण्यासाठी अशा अल्गोरिदमिक प्रणालींच्या प्रवृत्तीबद्दल कायदेशीर चिंता आहेत. एआयचे फायदे लक्षात आले आहेत आणि त्यांच्याशी निगडीत जोखीम दूर केली आहेत याची खात्री करण्यासाठी अल्गोरिदम ऑडिटिंग महत्त्वपूर्ण भूमिका बजावू शकते. ही प्रणाली कशा पद्धतीने कार्य करते, हेतूनुसार कार्य करते की नाही आणि प्रक्रियेत संभाव्यपणे व्यापक सामाजिक हानी टाळते की नाही हे तपासण्याची परवानगी देते. भारतातील लोकसंख्येला डिजिटल सेवांमध्ये असमान प्रवेश आहे, ज्यामुळे पक्षपाती डेटासेट तयार होऊ शकतो. भारताचे सार्वजनिक क्षेत्र आधीच त्यांची कार्यक्षमता वाढवण्यासाठी अल्गोरिदमिक निर्णय घेण्यावर अवलंबून आहे हे लक्षात घेता, आगामी कायद्यात एआय प्रणालींचे ऑडिट करण्याचे महत्त्व निश्चितपणे विचारात घेतले पाहिजे.
एआयचे फायदे लक्षात आले आहेत आणि त्यांच्याशी निगडीत जोखीम दूर केली आहे याची खात्री करण्यासाठी अल्गोरिदम ऑडिटिंग महत्त्वपूर्ण भूमिका बजावू शकते. ही प्रणाली कशा पद्धतीने कार्य करते, हेतूनुसार कार्य करते की नाही आणि प्रक्रियेत संभाव्यपणे व्यापक सामाजिक हानी टाळते की नाही हे तपासण्याची परवानगी देते.
याची स्पष्टपणे व्याख्या करायची तर व्यावसायिक स्वरूपाच्या पॅरामीटर्ससह वित्तीय ऑडिटच नियमन करणं म्हणजे अल्गोरिदमिक ऑडिटिंग. याउलट, एआय अल्गोरिदम ऑडिट कशासाठी आहे यावर एकमताचा अभाव आहे. मात्र हे अल्गोरिदम ऑडिट एआय उपयोजन कार्यक्षमतेच्या दाव्यांमध्ये कसे कमी पडतात याचे विद्यमान पुरावे स्पष्टपणे सादर करण्याचा एक मार्ग म्हणून पाहिले जाते. अल्गोरिदमच्या ऑडिटमध्ये त्याचे कार्य समजून घेण्यासाठी आणि काही पूर्व-परिभाषित प्रिस्क्रिप्टिव्ह मानकांच्या संदर्भात त्याचे मूल्यांकन करण्यासाठी वेगवेगळ्या वातावरणात त्याची चाचणी करणे समाविष्ट असते. यामध्ये निष्पक्षता, पारदर्शकता आणि स्पष्टीकरणाचा समावेश आहे. या प्रकारचे ऑडिट प्रथम-पक्ष (जसे की कंपन्यांमधील अंतर्गत पक्षांद्वारे आयोजित केले जाते), द्वितीय-पक्ष (कंत्राटदारांद्वारे आयोजित केले जाते), किंवा तृतीय-पक्ष (ऑडिट लक्ष्याशी कोणताही करार संबंध नसलेल्या संस्थांद्वारे किंवा स्वतंत्र संशोधकांद्वारे आयोजित)असू शकतात.
अल्गोरिदमिक प्रणाली वंशवाद, वर्गवाद, लिंगवाद, सक्षमता आणि इतर प्रकारचे भेदभाव कायम ठेवू शकतात ज्यामुळे वास्तविक जगात हानी होऊ शकते. उच्च कामगिरी करणाऱ्या चेहर्यावरील ओळख प्रणालीने गोऱ्या पुरुषांपेक्षा पाच ते दहा पटीने गडद त्वचेच्या स्त्रियांची चुकीची ओळख केली. ऍपलचे क्रेडिट कार्ड अल्गोरिदम, अर्जदारांची क्रेडिट योग्यता निर्धारित करण्यासाठी वापरलेले, पद्धतशीरपणे महिला ग्राहकांना पुरुषांपेक्षा 20 पट कमी क्रेडिट दिले. सार्वजनिकरित्या उपलब्ध असलेल्या 13 नैसर्गिक भाषा प्रक्रिया मॉडेल्सचे परीक्षण करणाऱ्या संशोधकांच्या गटाला सर्व मॉडेल्समध्ये अपंग लोकांविरुद्ध महत्त्वपूर्ण गर्भित पूर्वाग्रह आढळला. या प्रकारचे पूर्वाग्रह विद्यमान स्टिरियोटाइपला बळकटी देतात आणि प्रशिक्षण डेटामधील विविधतेचा अभाव, विकसक पूर्वाग्रह आणि अयोग्य मेट्रिक्ससह विविध कारणांसाठी अस्तित्वात आहेत.
पक्षपाती अल्गोरिदम, विशेषत: भारतासारख्या वैविध्यपूर्ण देशात लागू केल्यावर, एक समस्या उद्भवते ज्याचे निराकरण करणे आवश्यक आहे. 1.4 अब्ज लोकसंख्येसह, भारत दररोज मोठ्या प्रमाणात डेटा व्युत्पन्न करतो आणि अशा प्रकारे एआय प्रशिक्षण मॉडेल्ससाठी उत्कृष्ट प्रशिक्षण सामग्री प्रदान करतो. तथापि, 50 टक्क्यांहून कमी भारतीय इंटरनेट वापरतात आणि सुमारे 33 टक्के सोशल मीडिया वापरतात. इंटरनेटचा प्रवेश देखील अनौपचारिकरित्या वितरीत केला जात नाही आणि त्याचे वितरण लिंग, जात, प्रदेश, ग्रामीण-शहरी भाग इत्यादींमध्ये असमान आहे. गुगलने इंटरनेट वापरकर्त्यांच्या सर्वेक्षणात गोळा केलेल्या डेटासेटमध्ये मुस्लिम आणि दलित लोकसंख्येचे प्रतिनिधित्व कमी असल्याचे आढळून आले. हा परिणाम या विभागांमध्ये इंटरनेट प्रवेशाच्या अभावामुळे झाला आहे, ज्यामुळे भविष्यातील अल्गोरिदम भारतीय संदर्भात पक्षपाती परिणाम देण्याची शक्यता वाढली आहे.
भारताच्या सार्वजनिक क्षेत्रातील एआय अल्गोरिदमचा वाढता वापर परिस्थिती अधिक गुंतागुंतीची बनवत आहे. भारतातील संसाधनांच्या मर्यादित उपलब्धतेमुळे प्रशासन शक्य तितके कार्यक्षम असणे आवश्यक आहे. कृत्रिम बुद्धिमत्ता किंवा मशीन लर्निंग (ML) वापरून प्रक्रिया स्वयंचलित करण्याचे हे आणखी एक कारण आहे. भारतामध्ये जगातील सर्वात गरीब पोलिस दल आहे. त्यामुळे भारतातील एक डझनहून अधिक कायदे अंमलबजावणी एजन्सी सध्या गुन्हेगारांना ओळखण्यासाठी फेशियल रिकग्निशन अल्गोरिदम वापरत आहेत. तथापि, सदोष एआय मॉडेल्समध्ये, प्रशासन यंत्रणा सबऑप्टिमल किंवा अगदी प्रतिउत्पादक मार्गांनी वापरली जाईल, ज्यामुळे काही प्रकरणांमध्ये ते सोडवण्यापेक्षा अधिक समस्या निर्माण होतील. उदाहरणार्थ, तेलंगणा सरकारने हजारो कल्याणकारी योजना अर्जांवर प्रक्रिया करताना लोकांच्या वर्तनाचा अंदाज लावण्यासाठी मशीन लर्निंग सिस्टमचा वापर केला. यामुळे शेवटी 100,000 बनावट रेशनकार्डे रद्द करण्यात आली, तर 14,000 त्यांना पुनर्स्थापित करावी लागली.
सार्वजनिक क्षेत्रातील उत्तरदायित्वासाठी लेखापरीक्षण ही एक महत्त्वाची यंत्रणा असूनही, अल्गोरिदमिक प्रणालीच्या वापरावर भारतात त्याची अंमलबजावणी झालेली नाही. आजपर्यंत, या विषयावरील चर्चा मुख्यत्वे काही सरकारी एजन्सींच्या व्यापक कक्षेखाली आयोजित एक तदर्थ अभ्यास राहिली आहे. अगदी अलीकडे, भारताचे नियंत्रक आणि महालेखा परीक्षक (CAG) ने जी20 अंतर्गत SAI20 प्रतिबद्धता गट शिखर परिषदेचा भाग म्हणून एआयवर ऑडिटिंग फ्रेमवर्क आणि ग्रॅन्युलर चेकलिस्ट विकसित करण्यासाठी पुढाकार घेण्याची मागणी केली. तथापि, देशातील चालू घडामोडींचा अभ्यास करण्यावर केंद्रित असलेली ही चर्चा अद्याप अगदी सुरुवातीच्या टप्प्यात असल्याचे दिसते. या आदेशामध्ये ऑडिटिंग एआय अल्गोरिदम आणि ऑडिटिंग टूल म्हणून आर्टिफिशियल इंटेलिजन्स वापरणे या दोन्ही गोष्टींचा समावेश आहे , भारतातील सर्व उदाहरणे ऑडिटिंग टूल म्हणून वापरल्या जाणाऱ्या एआयच्या श्रेणीमध्ये येतात.
तरीही, भारतातील सर्व प्रमुख सरकारी संस्थांमध्ये ऑडिटचे महत्त्व आधीच ओळखले जाते. कॅग व्यतिरिक्त, नीती आयोगाचा 2021 रिस्पॉन्सिबल एआयवर व्हिजन डॉक्युमेंट स्वतंत्र आणि मान्यताप्राप्त ऑडिटर्सद्वारे नियमित अंतराने अल्गोरिदमचे ऑडिट करण्यासाठी यंत्रणा ठेवण्याच्या गरजेवर जोर देते. डिजी यात्रा प्रकल्पातही स्वतंत्र पक्ष आणि निवडक सरकारी संस्थांकडून लेखापरीक्षण आणि मूल्यमापनाच्या तरतुदी आहेत, जरी याची अंमलबजावणी कशी झाली हे स्पष्ट नाही.
अगदी अलीकडे, भारताचे नियंत्रक आणि महालेखा परीक्षक (CAG) ने जी20 अंतर्गत SAI20 प्रतिबद्धता गट शिखर परिषदेचा भाग म्हणून एआयवर ऑडिटिंग फ्रेमवर्क आणि ग्रॅन्युलर चेकलिस्ट विकसित करण्यासाठी पुढाकार घेण्याची मागणी केली.
उत्तरदायित्व यंत्रणा म्हणून ऑडिटिंगला मोठा इतिहास आहे, परंतु कृत्रिम बुद्धिमत्ता वापराच्या प्रकरणांमध्ये ऑडिटची मर्यादित उदाहरणे आहेत. परिणामी, लेखापरीक्षकांसाठी काही धोरणात्मक प्रारंभिक बिंदू आहेत, ज्यामध्ये संभाव्यतः उच्च शिक्षण, ऑडिटिंग टीममधील पक्षपातीपणाबद्दल चिंता आणि आवश्यक डेटामध्ये प्रवेश नसणे यांचा समावेश आहे. एआय तंत्रज्ञानाच्या उदयोन्मुख आणि सामान्य-उद्देशाच्या स्वरूपामुळे, तसेच अनिश्चित व्याख्या आणि एआय सिस्टीम्स आणि सोल्यूशन्समधील विस्तृत भिन्नता यामुळे ही समस्या आणखी गुंतागुंतीची आहे. शिवाय, एआय नियामक इकोसिस्टममध्ये सामान्यतः काही प्रमाणात दत्तक मानके असतात. एआयचे ऑडिट करणाऱ्या व्यक्ती आणि संस्थांच्या सर्वेक्षणात 1 टक्क्यांहून कमी सहभागींनी एआयशी संबंधित विद्यमान नियमनांना संपूर्ण भौगोलिक क्षेत्रांमध्ये पुरेसे म्हणून रेटिंग दिलेले आहे.
स्पष्ट ऑडिट पद्धत तसेच मानके आणि नियामक मार्गदर्शनाशिवाय, एआय उत्पादनाच्या ऑडिटबद्दलचे कोणतेही दावे (पहिले, द्वितीय किंवा तृतीय पक्ष ऑडिटर्सचे असोत) सत्यापित करणे आणि हानी आणि पक्षपात रोखणे कठीण होईल. त्याऐवजी एक शक्यता असेल, त्यात आणखी वाढ होत आहे. ही तफावत दूर करण्यासाठी भारत सरकारने स्पष्टपणे परिभाषित निकषांवर आधारित स्वतंत्र अल्गोरिदम ऑडिटमध्ये गुंतण्यासाठी एआय सिस्टमचे ऑपरेटर आणि विक्रेते आवश्यक असलेले कायदे स्थापित केले पाहिजेत. अशा प्रकारे एआय उत्पादनांच्या मालकांना ऑडिट का, केव्हा आणि कसे करावे हे निवडण्याचा अधिकार देण्याऐवजी, धोरणकर्ते त्यांच्यावर ऑडिट सादर करण्यासाठी बंधनं लादू शकतात आणि ते तसे करतात याची खात्री करण्यासाठी अनुपालन यंत्रणा विकसित करू शकतात. ऑडिटमुळे वास्तविक बदल होऊ शकतात.
याव्यतिरिक्त, भारत सरकार समवयस्क पुनरावलोकनासाठी लेखापरीक्षण निष्कर्षांचे मुख्य घटक उघड करणे अनिवार्य करू शकते, जे ग्राहकांच्या गोपनीयतेच्या चिंतेचा हवाला देऊन प्रथम आणि द्वितीय पक्ष लेखापरीक्षकांद्वारे गुप्त ठेवले जातात. प्रकटीकरणाची आवश्यक पदवी (उदा. सर्व तपशीलांचे प्रकटीकरण विरुद्ध मुख्य निष्कर्ष इ.) क्षेत्र-विशिष्ट विचारांवर आधारित मूल्यमापन केले जाऊ शकते. उघड केलेली माहिती सार्वजनिक केली जाऊ शकते किंवा डेटाबेसमध्ये लॉग इन केली जाऊ शकते. हे फक्त विनंत्यांद्वारे सत्यापित वर्णांसाठी प्रवेशयोग्य केले जाऊ शकतात. याव्यतिरिक्त, लेखापरीक्षण प्रक्रियेत वास्तविक-जगातील नुकसानाचा (फक्त संरचनात्मक किंवा परिमाणवाचक ऐवजी) परिमाणवाचक विचार करण्यास सक्षम करण्यासाठी कायद्याचे निर्माते प्रमाणित नुकसान घटना अहवाल आणि प्रतिसाद यंत्रणा सादर करू शकतात. सरतेशेवटी, भारत सरकार सक्षम लेखा परीक्षकांच्या टॅलेंट पूलचा विकास आणि विविधता आणण्यासाठी अल्गोरिदमिक ऑडिटर्सचे मूल्यांकन आणि मान्यता अधिकृत करू शकते. ही केवळ 'रबर स्टॅम्प' प्रक्रिया न बनवता आणि स्वतंत्र संशोधक, शोध पत्रकार किंवा एआयच्या हानिकारक भूमिकांचा पर्दाफाश करण्यासाठी आवश्यक असलेल्या अनुभवासह (आणि प्रेरणा) इतर नागरी संस्थांना लॉक न करता केली पाहिजे. हे उपाय प्रस्तावित डिजिटल इंडिया कायद्यामध्ये समाविष्ट केले जाऊ शकतात, जे डिजिटल वैयक्तिक डेटा संरक्षण कायदा, 2023 किंवा माहिती तंत्रज्ञान नियम, 2021 मधील अल्गोरिदमच्या अधिक उत्तरदायित्वासाठीच्या तरतुदींसह समन्वित केले जातील.
त्यांच्या भागासाठी, कॉर्पोरेशन किंवा सरकारी संस्था ज्यांच्या मालकीच्या आणि सार्वजनिकरित्या एआय उत्पादनांचे संचालन करतात ते त्यांच्या अंतर्गत प्रक्रियांमध्ये सर्वोत्तम पद्धती स्थापित करू शकतात. ऑडिट प्रक्रियेत एआय प्रणालींद्वारे सर्वाधिक हानी होण्याचा धोका असलेल्या भागधारकांचा समावेश आहे किंवा जे अल्गोरिदमिक निर्णय-प्रणालीच्या अधीन आहेत, त्यांच्या अधीन असताना सूचित केले जावे.
सरतेशेवटी, भारत सरकार सक्षम लेखा परीक्षकांच्या टॅलेंट पूलचा विकास आणि विविधता आणण्यासाठी अल्गोरिदमिक ऑडिटर्सचे मूल्यांकन आणि मान्यता अधिकृत करू शकते.
अल्गोरिदमिक ऑडिटिंग इकोसिस्टममधील प्रॅक्टिशनर्समध्ये या सर्व प्रस्तावांवर महत्त्वपूर्ण एकमत आहे आणि त्यांची अंमलबजावणी करण्यात प्रगती भारताच्या नियामक संस्था आणि व्यवसायांना हानी कमी करण्यात महत्त्वाची भूमिका बजावण्यास सक्षम करेल. आर्टिफिशियल इंटेलिजन्सच्या विकासाच्या सध्याच्या वेगवान गतीच्या उलट, ऑडिट प्रक्रिया मंद, अवजड, विधीविषयक आणि सावध असू शकते. उच्च-जोखीम असलेल्या भागात अल्गोरिदमचा वापर वाढत्या प्रमाणात होत असल्याने, हा प्रकार कमी करणे अधिक फायदेशीर ठरू शकते.
हुसनजोत चहल हे जॉर्जटाउन विद्यापीठातील सेंटर फॉर सिक्युरिटी अँड इमर्जिंग टेक्नॉलॉजी (CSET) मध्ये संशोधन विश्लेषक आहेत.
समन्वय हुडा हे सेंटर फॉर सिक्युरिटी अँड इमर्जिंग टेक्नॉलॉजी (CSET) मध्ये संरक्षण विश्लेषण संशोधन सहाय्यक आहेत.
The views expressed above belong to the author(s). ORF research and analyses now available on Telegram! Click here to access our curated content — blogs, longforms and interviews.
Husanjot Chahal is a Research Analyst at Georgetown Universitys Center for Security and Emerging Technology (CSET) where she is focused on producing data-driven research examining ...
Read More +
Samanvya Hooda is a Defense Analysis Research Assistant at the Center for Security and Emerging Technology (CSET) ...
Read More +
PREV
