Author : Prateek Tripathi

Expert Speak Digital Frontiers
Published on Jun 25, 2024 Updated 0 Hours ago

ज्या तंत्रज्ञानाबाबत प्रश्न विचारले जात आहेत ते तंत्रज्ञान त्याच्या ट्रेनिंग डेटा किंवा अल्गोरिदमसह जर ब्लॅक बॉक्सच्या मागे दडलेले असेल तर अशा एआयचे नियमन करणे कठीण आणि अत्यंत अव्यवहार्य ठरू शकते.  

आर्टिफिशियल इंटेलिजन्स (AI) “ब्लॅक बॉक्स” चे रहस्यमय कोडे!

तंत्रज्ञानाची उपयुक्तता अमर्याद असल्याचे सिद्ध झाल्यामुळे एआयच्या वापरात वाढ झाली आहे. वाढत्या उपयुक्ततेसोबत या तंत्रज्ञानाचे नियमन करण्याची जबाबदारी अपरिहार्यपणे आली आहे. जगभरातील सरकारे आणि धोरणकर्ते हे नियामक यंत्रणा आणि फ्रेमवर्क तयार करण्यासाठी धडपड करत आहेत. तंत्रज्ञानाचे विघातक आणि संभाव्य धोकादायक स्वरूप लक्षात घेता, निकडीची ही वाढती भावना नक्कीच समजण्याजोगी आहे. म्हणूनच, नियमनावर चर्चा करण्यापुर्वी एआय कशाप्रकारे काम करते हे समजून घेणे गरजेचे आहे.

"ब्लॅक बॉक्सची" समस्या

एआय तंत्रज्ञान हे बराच काळ जरी वापरात असले तरी त्याबाबत फार चर्चा झालेली दिसून येत नाही. चॅट जीपीटी सारख्या जनरेटिव्ह एआय मॉडेल्सच्या वाढत्या वापरामुळे हे तंत्रज्ञान केंद्रस्थानी आले आहे आणि त्याच्या वापराला गती मिळाली आहे. यामुळेच पुढे मायक्रोसॉफ्टचे बिंग चॅट, गुगलचे बार्ड आणि इतर अनेक तथाकथित “चॅटबॉट्स”ची निर्मिती करण्यात आली आहे. मशीन लर्निंग (एमएल) श्रेणीत येणारे हे सर्व जनरेटिव्ह एआय सिस्टम्स लार्ज लर्निंग मॉडेल्स (एलएलएमस) वर आधारित आहेत.

आकृती १ – एमएलमधील टप्पे

स्त्रोत – वॉग एट ऑल (२०२१)

एमएलचे काम तीन टप्प्यात चालते. सर्वप्रथम, अल्गोरिदम हा प्रक्रियेचा एक संच तयार करतो. दुसऱ्या टप्प्यावर हा अल्गोरिदम मोठ्या प्रमाणात उपलब्ध असलेल्या "ट्रेनिंग डेटा" मधून पॅटर्न ओळखण्यास शिकतो. अल्गोरिदमने पुरेसा डेटा चाळल्यानंतर, शेवटी चॅट जीपीटीसारखे एमएल मॉडेल उपयोजित केले जातात. डिप लर्निंग किंवा सखोल शिक्षण मूलत: मानवी बुद्धिमत्तेच्या सिद्धांताने प्रेरित झाले असल्याने ही प्रक्रिया काही प्रमाणात आपल्याला परिचित आहे. माणूस आपल्या अनुभवावरून सतत शिकत असतो. ज्याप्रमाणे माणूस अनुभव व निरीक्षणाचा वापर करून विविध परिस्थिती हाताळतो त्याच प्रमाणे एआयसुद्धा शिकत जाते. ज्याप्रमाणे आपल्याला विशिष्ट संकल्पना समजून घेण्यासाठी नेमक्या कोणत्या उदाहरणाचा उपयोग झाला हे बरेचदा आपल्याला आठवत नाही. त्याप्रमाणे विशिष्ट निर्णय घेण्यासाठी कोणत्या डेटा किंवा इनपुटचा वापर झाला याची माहिती एआय आपल्याला देऊ शकत नाही. आपण एआयमध्ये इनपुटमध्ये फीड करतो आणि विशिष्ट आउटपुट मिळवतो, परंतु आपल्याला यासाठी सिस्टमचा कोणता कोड किंवा आउटपुट तयार करणारे लॉजिक वापरण्यात आले हे तपासता येत नसल्याने एआय हे ब्लॅक बॉक्सप्रमाणे काम करते. परिणामी, अनेक प्रकरणांमध्ये एलएलएम ज्या प्रकारे वागतात त्याची नेमकी कारणे, तसेच त्यांच्या वर्तनाला आधार देणारी यंत्रणा, अगदी त्यांच्या क्रिएटर्सनाही माहीत नसते.

एलएलएममध्ये मोठ्या प्रमाणावर डेटा प्रक्रिया करणे आवश्यक असते म्हणूनच हे अधिक खर्चाचे प्रयत्न मानले जातात. यामुळेच गेल्या दशकात मशीन लर्निंग मॉडेल्स तयार करण्यात तंत्रज्ञान उद्योगाने शैक्षणिक क्षेत्राला मागे टाकले आहे. फरक असा आहे की शैक्षणिक संस्था त्यांच्या मॉडेल्ससाठीचे सोर्स कोड रिलीझ करण्यासाठी तयार असतात, परंतु कॉर्पोरेट संस्थांच्या बाबतीत असे होत नाही. ओपन एआयच्या चॅट जीपीटीसारख्या ऍप्लिकेशन्सचे कोड अद्याप उपलब्ध झालेले नाहीत आणि ते भविष्यात होण्याचीही शक्यता कमी आहे.

एलएलएममध्ये मोठ्या प्रमाणावर डेटा प्रक्रिया करणे आवश्यक असते म्हणूनच हे अधिक खर्चाचे प्रयत्न मानले जातात.

एमएल सिस्टीमच्या तीन घटकांपैकी कोणताही एक घटक लपविला जाऊ शकतो किंवा ब्लॅक बॉक्समध्ये असू शकतो. बऱ्याचदा प्रकरणांप्रमाणे, अल्गोरिदमबाबत लोकांना माहिती असल्यामुळे त्याला ब्लॅक बॉक्समध्ये ठेवणे प्रभावी ठरत नाही. म्हणून, त्यांच्या बौद्धिक मालमत्तेचे संरक्षण करण्यासाठी, एआय डेव्हलपर्स अनेकदा मॉडेलला ब्लॅक बॉक्समध्ये ठेवतात. मॉडेलला प्रशिक्षण देण्यासाठी वापरण्यात आलेला डेटा अस्पष्ट ठेवणे काही एआय डेव्हलपर्स पसंत करतात म्हणजेच ट्रेनिंग डेटा ब्लॅक बॉक्समध्ये ठेवला जातो.

ब्लॅक बॉक्स दृष्टिकोनाचे परिणाम

ब्लॅक बॉक्सचा वापर केल्याने अनेक समस्या निर्माण होतात. एआय मॉडेलला प्रशिक्षण देण्यासाठी वापरल्या जाणाऱ्या डेटासेटमधील संभाव्य त्रुटी अस्पष्ट आहेत. यामुळे उत्तरदायित्वाचा अभाव स्पष्ट दिसून येतो. उदाहरणार्थ,  जर एमएल मॉडेल हे एखादी व्यक्ती बँक कर्जासाठी पात्र नाही असे ठरवत असेल आणि वापरले जाणारे अल्गोरिदम ब्लॅक बॉक्समध्ये असेल, तर त्या व्यक्तीला कर्ज का नाकारले गेले याची कारणे शोधण्याचा त्या व्यक्तीकडे कोणताही मार्ग राहत नाही आणि म्हणूनच, ही बाब दुरूस्त करण्यात ते मूलत: असमर्थ ठरतात.

जेव्हा अनपेक्षित परिणाम प्राप्त होतात तेव्हा त्याचे निराकरण करणे अधिक कठीण होते. त्यामुळे ब्लॅक बॉक्सचा दृष्टीकोन हा एमएल मॉडेल्सना मुलतःच अप्रत्याशित बनवतो. लष्करी क्षेत्रात जेव्हा या तंत्रज्ञानाचा वापर केला जातो तेव्हा त्याचे प्राणघातक परिणाम होऊ शकतात. यापूर्वीही असे प्रकार घडल्याची उदाहरणे आहेत. उदाहरणार्थ, यूएस एअर फोर्सकडून एक सिम्युलेटेड चाचणी घेण्यात आली होती ज्यामध्ये एआय-चालित ड्रोनला शत्रूची हवाई संरक्षण यंत्रणा नष्ट करण्याचा आदेश देण्यात आला. परंतू वास्तवात मात्र त्या आदेशात हस्तक्षेप करणाऱ्या प्रत्येकावर या यंत्रणेकडून हल्ला होण्याचा धोका उद्भवला होता.

जेव्हा अनपेक्षित परिणाम प्राप्त होतात तेव्हा त्याचे निराकरण करणे अधिक कठीण होते. त्यामुळे ब्लॅक बॉक्सचा दृष्टीकोन हा एमएल मॉडेल्सना मुलतःच अप्रत्याशित बनवतो. लष्करी क्षेत्रात जेव्हा या तंत्रज्ञानाचा वापर केला जातो तेव्हा त्याचे प्राणघातक परिणाम होऊ शकतात.

एआयच्या नियमनामधील मूलभूत समस्या

ऐतिहासिकदृष्ट्या, इंटरनेट सारख्या उद्योन्मुख तंत्रज्ञानाचा वापर समाजाकडून कशाप्रकारे केला जाईल हे समजून घेण्याचा मार्ग उपलब्ध नसल्यामुळे त्यातील अनिश्चितता हा नियमनामधील मोठा अडथळा आहे. त्यामुळे असे तंत्रज्ञान कशाप्रकारे काम करते याचीच माहिती आपल्याकडे उपलब्ध आहे. तंत्रज्ञान कसे विकसित होईल याबाबतची अनिश्चितता ही एक समस्या आहेच पण त्यासोबत हे तंत्रज्ञान कशाप्रकारे कार्य करते याबाबत मूलभूत समज नसल्यामुळे यातील जटीलता अधिक वाढलेली आहे. त्यामुळे एआय बाबतची समस्या दुहेरी आहे. उदाहरणार्थ चॅटजीपीटीचा विचार केला तर, आपण त्याच्या अंतर्गत कामकाजाकडे दुर्लक्ष करत असल्याने त्याकडे पाहण्यासाठी समाजाने मूलत:च ब्लॅक बॉक्स पद्धतीचा अवलंब केला आहे.

कोणत्याही तंत्रज्ञानाचे नियमन करण्यासाठी ते प्रत्यक्षात कसे कार्य करते याची चांगली समज असण्याची आवश्यकता असते. एआय आणि विशेषतः जनरेटिव्ह-एआयचा विचार करता ही एक मूलभूत समस्या आहे. तंत्रज्ञानाच्या वेगवान प्रगतीबद्दल नैतिक पातळीवर चिंता व्यक्त होत असताना ओपनएआयमधील उलथापलथीमुळे या मुद्याला अधिक पुष्टी मिळालेली आहे. ज्या गोष्टीचे नियमन करायचे आहे त्याबाबत संपुर्ण माहिती नसेल तर त्याचे नियमन प्रभावीपणे होत नाही. एआयच्या वर्किंगबाबतच्या अज्ञानामुळे त्याच्याभोवतीची अनिश्चितता आणि गूढता अधिक गडद होत जाते. त्यामुळे भविष्यातील कोणतेही नियमन प्रभावी होण्यासाठी ही बाब शक्य तितक्या लवकर दुरूस्त करणे आवश्यक आहे.

कोणत्याही तंत्रज्ञानाचे नियमन करण्यासाठी ते प्रत्यक्षात कसे कार्य करते याची चांगली समज असण्याची आवश्यकता असते. एआय आणि विशेषतः जनरेटिव्ह-एआयचा विचार करता ही एक मूलभूत समस्या आहे.

उच्च-जोखीम असलेल्या एआय प्रणालींच्या बाबतीत, दायित्वांची अंमलबजावणी करण्यासाठी कोण थेट जबाबदार आहे आणि किती प्रमाणात हे स्पष्ट नसल्यामुळे या वर्षाच्या सुरुवातीला संमत झालेल्या ईयू एआय कायद्यामध्ये पारदर्शकता आणि उत्तरदायित्वाची गरज व्यक्त करण्यात आली आहे. ट्रेनिंग डेटा संबंधींच्या तरतुदींमध्ये देखील अस्पष्टता असल्याने या अस्पष्टतेचा फायदा ओपनएआय सारख्या बिग टेक कॉर्पोरेशनद्वारे उचलला जाऊ शकतो.

एआय नियमनासाठी गरजेच्या गोष्टी – ब्लॅक बॉक्स उघडण्याची गरज

आतापर्यंत एमएल मॉडेल्सचा वापर ऑनलाइन जाहिराती आणि वेब सर्च यासारख्या लो-स्टेक अपलिकेशनमध्ये करण्यात येत असल्याने त्याच्या वापराचे गंभीर परिणाम दिसून आले नाहीत. जनरेटिव्ह एआयच्या वाढत्या वापरामुळे या तंत्रज्ञानाने मानवी जीवनाच्या सर्व पैलूंमध्ये प्रवेश केला आहे. म्हणूनच हा ब्लॅक बॉक्स उघडणे आता अत्यावश्यक झाले आहे.  

ब्लॅक बॉक्स मॉडेल्सना इंटरप्रिटेबल मॉडेल्स अधिक पारदर्शक व नैतिक पर्याय उपलब्ध करून देतात. म्हणून त्यांना ग्लास बॉक्स म्हणूनही ओळखले जाते. एआय ग्लास बॉक्स ही एक अशी प्रणाली आहे ज्याच्या अल्गोरिदम, ट्रेनिंग डेटा आणि मॉडेलबाबतची माहिती उपलब्ध असते. एक्सप्लनेबल एआय (एक्सएआय) च्या क्षेत्रामध्ये विकसीत करण्यात येत असलेले अल्गोरिदम जरी ग्लास बॉक्स नसले तरी मानवी बुद्धीला त्याचे आकलन होऊ शकते. एआय प्रणालीची इंटरप्रिटेबीलीटी वाढवण्यासाठी एलआयएमई (लोकल इंटरप्रिटेबल मॉडेल-ॲग्नोस्टिक एक्सप्लनेशन्स) आणि एसएचएपी (शेपले एडीटीव्ह एक्सप्लनेशन्स) सारख्या साधनांचा वापर करण्यात येत आहे.

सर्वात अचूक एमएल आणि डिप लर्निंग मॉडेल्स ही अप्रत्याशित आणि गुंतागुंतीची असायला हवीत असा एक व्यापक समज आहे. अशा प्रकारचे गृहितक २०१८ मध्ये आयोजित करण्यात आलेल्या एक्सप्लनेबल मशिन लर्निंग चॅलेंज सारख्या विविध कार्यक्रमांमधून वेळोवेळी खोटे असल्याचे सिद्ध करण्यात आले आहे. विविध बाबतींमध्ये इंटप्रिटेबल आणि ग्लास बॉक्स मॉडेल्स ब्लॅक बॉक्स मॉडेल इतकीच प्रभावी असल्याचे दिसून आले आहे. ईयू एआय कायदा हे योग्य दिशेने पडलेले पाऊल आहे आणि नियामक संस्थांद्वारे बिग टेक कंपन्यांवर लक्ष ठेवण्याची गरज असताना, या दिशेने अधिक प्रयत्न होणे आवश्यक आहे. ज्या तंत्रज्ञानाबाबत प्रश्न विचारले जात आहेत ते तंत्रज्ञान त्याच्या ट्रेनिंग डेटा किंवा अल्गोरिदमसह जर ब्लॅक बॉक्सच्या मागे दडलेले असेल तर अशा एआयचे नियमन करणे कठीण आणि अत्यंत अव्यवहार्य ठरणार आहे.  


प्रतीक त्रिपाठी हे ऑब्झर्व्हर रिसर्च फाउंडेशनमध्ये संशोधन सहाय्यक आहेत.

The views expressed above belong to the author(s). ORF research and analyses now available on Telegram! Click here to access our curated content — blogs, longforms and interviews.

Author

Prateek Tripathi

Prateek Tripathi

Prateek Tripathi is a Research Assistant Centre For Security Strategy and Technology at ORF. He was given a prize for outstanding physics achievement at the ...

Read More +