Author : Vaibhav Garg

Expert Speak Raisina Debates
Published on Feb 04, 2025 Updated 0 Hours ago

कृत्रिम बुद्धिमत्ता म्हणजेच एआयसंबंधित धोके आणि सुरक्षासंबंधीच्या चर्चेत सॉफ़्टवेअर पुरवठा साखळी बहुतेक वेळा दुर्लक्षित केली जाते, ज्यामुळे शाश्वत आणि सुरक्षित इकोसिस्टम गव्हर्नन्सची आवश्यकता निर्माण होते.

AI आणि सॉफ्टवेयर सुरक्षा: अदृश्य धोके

Image Source: Getty

हा लेख “यू.एस.-इंडिया एआय फेलोशिप प्रोग्राम” या लेख मालिकेचा एक भाग आहे.


एआयमधील सॉफ़्टवेअर पुरवठा साखळी समस्या

अनेक क्षेत्रे, डोमेन आणि ग्राहकांमध्ये कृत्रिम बुद्धिमत्ता (एआय), जनरेटिव्ह आणि डिस्ट्रीब्युटिव्ह दोन्हींचे, विविध उपयोग आहेत. एआय मॉडेल विकसित करणारे डेव्हलपर ज्यांचा संबंधित उपाय तयार करण्याचा हेतू असतो, ते सहसा एआय मॉडेल पूर्णपणे नव्याने सुरुवात करून तयार करत नाहीत तर त्याऐवजी, ते पूर्व-प्रशिक्षित मॉडेल्स आणि लायब्ररी जसे HuggingFace, PyPi आणि Kaggle वापरण्यासाठी मॉडेल रिपॉझिटरीज किंवा मॉडेल लेक्सवर अवलंबून असतात. हे एआयसाठी काही नवीन नसले तरी, सामान्यतः डेव्हलपर एखादे मालकीचे उत्पादन तयार करतांना थर्ड पार्टी कोडचा मोठ्या प्रमाणावर वापर करतात. सायबरसुरक्षेच्या संदर्भात, हे थर्ड पार्टी घटक उत्पादक टीमसाठी एक अदृश्य धोका बनतात.

हल्लेखोर या धोक्यांवर मात करण्यासाठीची गुंतागुंत ओळखतात आणि थर्ड पार्टी घटकांचा वापर करून संस्थांमध्ये घुसखोरी करण्याचा मार्ग शोधतात. उदाहरणार्थ, असा एक अलीकडील आणि प्रसिद्ध हल्ला होता ज्यात एका हल्लेखोराने XZ Utils युटिलिटीमधील एक बॅकडोर वापरून अनेक Linux वितरणांना लक्ष्य केले. ए.आय. लायब्ररींना देखील असेच धोके असू शकतात, उदाहरणार्थ, असुरक्षित सिरिअलायझेशनचा वापर करून. ही समस्या अधिक अस्पष्ट तंत्रज्ञानावर आधारित ए.आय. लायब्ररींसाठी अधिक गंभीर होऊ शकते; उदाहरणार्थ, हल्लेखोरांना मॉडेल वेट्समध्ये छेडछाड करण्याची संधी मिळू शकते.

हल्लेखोर या धोक्यांवर मात करण्यासाठीची गुंतागुंत ओळखतात आणि थर्ड पार्टी घटकांचा वापर करून संस्थांमध्ये घुसखोरी करण्याचा मार्ग शोधतात.

अधिक महत्त्वाचे म्हणजे, व्यापक भौगोलिक-राजकीय घटनांद्वारे प्रेरित होऊन ओपन-सोर्स मॉडेल्ससाठी धोका असू शकतो. याचे एक उदाहरण म्हणजे "प्रोटेस्टवेयर", ज्यामध्ये ओपन-सोर्स प्रोजेक्ट्सची देखरेख करणारी किंवा योगदान देणारी व्यक्ती, विशिष्ट संस्थांना नुकसान पोहोचवण्यासाठी प्रोजेक्टसाठी उपयोग होणाऱ्या कोडमध्ये हेतूपुरस्सर त्रुटी करू शकतात. यामुळे मुख्य एप्लिकेशन्समध्ये तडजोड होते आणि राष्ट्रीय सुरक्षा संबंधित चिंता निर्माण होऊ शकतात.

पारदर्शकतेद्वारे सुरक्षेच्या मर्यादा  

योग्य एआय मॉडेल्स आणि संबंधित लायब्ररीजची निवड यामुळे केवळ एप्लिकेशन्सच्या कार्यक्षमतेसाठीच नाही, तर ऑस्ट्रेलिया, भारत, जपान आणि संयुक्त राज्ये यांचा समावेश असलेल्या QUAD सारख्या मोठ्या भौगोलिक-राजकीय आघाड्यांसाठी आणि त्यांच्या राष्ट्रीय सुरक्षा चिंतेसाठीही महत्त्वपूर्ण ठरते. एआयच्या विकासातील प्रत्येक टप्प्यावरील व्यक्तीगत घटकांनी केलेले निर्णय डाउनस्ट्रीम वापरकर्त्यांसाठी पारदर्शकपणे केले जावे लागतात. एआय डेवलपमेंट इकोसिस्टममध्ये पारदर्शकता आणण्यासाठी विविध संशोधकांनी वेगवेगळ्या सूचना केल्या आहेत, ज्यात एआय बिल ऑफ मटेरियल्स (AI BOMs) आणि मॉडेल कार्ड्स यांचा समावेश आहे, परंतु हेच याची मर्यादा नाहीत.

मॅनिफेस्टचा एआय BOMs साठीचा प्रस्ताव हा मॉडेल, त्याची रचना, आणि त्याच्या अपेक्षित किंवा उद्दिष्ट वापराशी संबंधित मेटाडेटा प्रदान करतो. लिनक्स फाउंडेशनने प्रसिद्ध सिस्टम पॅकेज डेटा एक्सचेंज (SPDX) फॉरमॅटचा एआय BOM विस्तार करण्याचा प्रस्ताव ठेवला आहे, जो सामान्य सॉफ्टवेयर बिल ऑफ मटेरियल्स (S BOMs) साठी पारंपारिकपणे वापरला जातो. हा विस्तार एआय प्रोफाइलला त्याच्या प्रशिक्षित केलेल्या डेटासेटपासून वेगळा करतो. लिनक्स फाउंडेशनचे मानक मॅनिफेस्टच्या प्रस्तावाला पूरक आहेत, कारण ते मॉडेलचे कार्यप्रदर्शन, नैतिक विचार, त्याचा हवामानावर होणारा परिणाम, आणि अधिक बाबींबद्दल अतिरिक्त माहिती प्रदान करतात.

मॉडेल कार्ड्सची उपस्थिती आणि हगिंगफेसचा उपयोग एकमेकांशी जोडले गेले आहेत, मात्र संशोधकांच्या मते, पर्यावर्णावरील परिणाम, मर्यादा आणि मूल्यांकन यावर असलेल्या विभागांमध्ये अनेकदा अपूर्णता असते.

एआय BOMs हे मॉडेल कार्ड्सचा विस्तार आहेत - जे प्रथम हगिंगफेसमधील संशोधकांनी प्रस्तावित केले होते. मॉडेल कार्ड्स मागील उद्दीष्ट हे प्रशिक्षित मॉडेल्सच्या उद्देशित वापरामध्ये पारदर्शकता निर्माण करणे आणि संभाव्य लक्ष्य लोकसंख्येच्या संदर्भात त्यांच्या कार्यप्रदर्शनाचे मूल्यांकन करणे हे होते. मॉडेल कार्ड्सची उपस्थिती आणि हगिंगफेसचा उपयोग एकमेकांशी जोडले गेले आहेत, मात्र संशोधकांच्या मते, पर्यावर्णावरील परिणाम, मर्यादा आणि मूल्यांकन यावर असलेल्या विभागांमध्ये अनेकदा अपूर्णता असते.

म्हणून, मॉडेल लेक्सवर फक्त मॉडेल कार्ड्स प्रदान करणे हे एआय उत्पादनांमध्ये या मॉडेल्सच्या जोखमीवर आधारित अवलंबनाला चालना देण्यासाठी अपुरा ठरू शकते. अधिक महत्त्वाचे म्हणजे, त्याच्या सध्याच्या रूपात, ते प्रोटेस्टवेयरद्वारे QUAD सारख्या संस्थांना होणाऱ्या विविध भौगोलिक-राजकीय धोख्यांना सामोरे जाण्यासाठी सक्षम होणार नाहीत. उदाहरणार्थ, लिनक्स फाउंडेशनकडून असलेल्या सध्याच्या मॉडेल कार्ड मानकांमध्ये, अडव्हर्सेरियल रॉबस्टनेस आणि हानीकारक छेडछाड यासारख्या महत्त्वपूर्ण सुरक्षा बाबींवरील माहिती प्रदान केली जात नाही.

टिकाऊ आणि सुरक्षित मॉडेल लेक इकोसिस्टम्स  

एक उपाय म्हणजे देशांमध्ये तसेच QUAD सारख्या संस्थांमध्ये सार्वजनिक-खाजगी मॉडेल लेक्स तयार करणे. खास प्रकरणांमध्ये, या विशिष्ट वापर प्रकरणांना, वेगवेगळ्या क्षेत्रांना, किंवा व्यक्तिशः मॉडेल प्रकारांना लक्ष्य करण्यासाठी तयार केले जाऊ शकतात. वेगवेगळ्या मॉडेल लेक्सना एकत्र करून एक समग्र मॉडेल लेक इकोसिस्टम (MoLE) तयार केली जाऊ शकते, जी अनेक वापर प्रकरणे, क्षेत्रे, आणि मॉडेल प्रकार समाविष्ट करेल. अशा इकोसिस्टम्सचे शासन बहुस्तरीय असू शकते, जिथे काही बाबी इकोसिस्टम स्तरावर हाताळल्या जातात आणि इतर बाबी वैयक्तिक लेक स्तरावर व्यवस्थापित केल्या जातात.

रिसोर्स प्रोड्यूसर्सला हे सुनिश्चित करण्याचे स्वयं प्रोत्साहन असते की इकोसिस्टम योग्य प्रकारे व्यवस्थापित केली जावी, जेणेकरून ते त्यांच्या मॉडेल्सचा वापर वाढवू शकतात. 

या मॉडेल इकोसिस्टम्समधील सहभागींना दोन गटांमध्ये विभाजित केले जाऊ शकते: रिसोर्स प्रोड्यूसर्स (RPs), म्हणजे जे घटक नवीन मॉडेल्स जोडतात किंवा विद्यमान मॉडेल्स अपडेट करतात, आणि रिसोर्स यूजर्स (RUs), म्हणजे जे घटक मॉडेल्सचा वापर डाउनस्ट्रीम एआय उत्पादनांमध्ये करतात, ज्यामध्ये रिसोर्स युनिट म्हणजे एक मॉडेल असे परिभाषित केले जाईल. रिसोर्स प्रोड्यूसर्सला हे सुनिश्चित करण्याचे स्वयं प्रोत्साहन असते की इकोसिस्टम योग्य प्रकारे व्यवस्थापित केली जावी, जेणेकरून ते त्यांच्या मॉडेल्सचा वापर वाढवू शकतात. रिसोर्स यूजर्ससुद्धा त्यांना उच्च-गुणवत्तेचे मॉडेल्स त्यांच्या उत्पादनांमध्ये वापरण्याची खात्री मिळविण्यासाठी प्रोत्साहित केले जातात, जे उदाहरणार्थ पुढील प्रोटेस्टवेयर हल्ल्यांचा शिकार होणार नाहीत. या प्रोत्साहनांच्या सुसंगतीमुळे, हे सहभागी स्व-नियमन करून नवीन मॉडेल कार्ड मानक तयार करू शकतात, जे त्यांच्या सुरक्षेच्या गरजा पूर्ण करतात आणि त्याचवेळी सुनिश्चित करतात की त्यानंतरचे मॉडेल कार्ड्स योग्य काम करतील आणि पूर्णपणे लोकप्रिय होतील.

नैसर्गिक संसाधने जसे की मासेमारी, जंगलं आणि सरोवर यांमध्ये स्वशासनाला प्रोत्साहन देणारा एक आराखडा म्हणजे एलिनॉर ओस्ट्रोमचा नोबेल पुरस्कार मिळालेला "कॉमन पूल रिसोर्सेस" (CPR) आराखडा. तिने या संसाधनांच्या यशस्वी स्वशासनासाठी पाच निकष शोधले आहेत:

1. संसाधनाचे निरीक्षण करण्याचा खर्च कमी असावा.
2. संसाधनाच्या इकोसिस्टममधील बदलाची गती मध्यम असावी.
3. संबंधित भागधारकांनी वारंवार संवाद साधावा आणि सामाजिक भांडवलाच्या माध्यमातून विश्वासहर्ता निर्माण करण्यासाठी घनिष्ठ सामाजिक संपर्क असावा.
4. गैर-भागधारकांना वगळता येऊ शकते.
5. निरीक्षण आणि संबंधित नियमांच्या अंमलबजावणीसाठी भागधारकांचा पाठिंबा असावा.

मॉडेल लेक्सच्या संदर्भात, मॉडेल कार्ड्स हे मॉडेल्स (आणि त्या मॉडेलचे योगदान करणाऱ्यां) साठी सामाजिक भांडवल निर्माण करण्याचा एक मार्ग प्रदान करतात. मॉनिटरिंग मध्ये हे सुनिश्चित करणे समाविष्ट आहे की 1) दिलेली माहिती प्रासंगिक आहे, 2) योग्य आहे, आणि 3) पूर्ण आहे. स्टेकहोल्डर्स याचे समर्थन असे करू शकतात ज्याद्वारे ते अशा मॉडेल कार्ड्सची माहिती रिपोर्ट करू शकतात जी या गुणधर्मांना पूर्ण करत नाहीत. नॉन-स्टेकहोल्डर्स हे अश्या संस्था आहेत ज्या एक तर मॉडेल कार्ड्स प्रदान करत नाहीत किंवा कमी गुणवत्ता असलेली मॉडेल कार्ड्स प्रदान करतात. त्यांना त्यांचे कार्ड्स हटवून, त्यांचे मॉडेल्स नापसंत करून किंवा मॉडेल लेकला प्रवेश बंद करून वगळले जाऊ शकते. बदलाचा दर मध्यम राखला जाऊ शकतो ज्याद्वारे नवीन मॉडेल्सची संख्या जोडण्यावर आणि जुनी मॉडेल्स काढून टाकण्यावर एक उच्च सीमा निश्चित केली जाते, तसेच मॉडेल्सच्या दरम्यान एक वंशावळी प्रदान केली जाते आणि संबंधित मॉडेल्स एकत्र गटबद्ध केले जातात.

नॉन-स्टेकहोल्डर्स हे अश्या संस्था आहेत ज्या एक तर मॉडेल कार्ड्स प्रदान करत नाहीत किंवा कमी गुणवत्ता असलेली मॉडेल कार्ड्स प्रदान करतात. 

अशा मॉडेल लेक इकोसिस्टम्सची निर्मिती, जी ऑस्ट्रॉमच्या CPR आराखड्याद्वारे स्वशासनाला परवानगी देते, आणि AI पुरवठा साखळीमधील जोखमींच्या व्यवस्थापनाच्या दृष्टीने अनेक फायदे करून देते:

1. स्टेकहोल्डर्स त्यांच्याशी संबंधित असलेल्या जोखमींची माहिती करून घेऊ शकतात आणि त्यावर कार्य करू शकतात. त्यामुळे, जर प्रोटेस्टवेअर एक संबंधित चिंतेचा विषय असेल, तर स्टेकहोल्डर्स त्यावर काम करतील.
2. शासन किंवा व्यवस्था धोक्याच्या स्वरूपानुसार विकसित होईल. हे AI मध्ये महत्त्वाचे आहे कारण AI चे स्वरूप आणि त्यासंबंधित धोके वेगाने बदलत आहेत.
3. हे कमी संसाधन असलेल्या स्टेकहोल्डर्सना इकोसिस्टमच्या व्यवस्थापनात समानपणे सहभागी होण्याची संधी देते.
4. संबंधित नियम किंवा मान्यता फक्त दिखाव्याच्या जबाबदाऱ्या लादण्याची शक्यता कमी असते, कारण नियम हे त्या संस्था तयार करतात ज्या पालनाचा खर्च उचलतील.
5. संसाधन सहभागींच्या स्वयं प्रोत्साहनांवर आधारित शासन स्वाभाविकपणे दबावकारक नसेल आणि त्यामुळे अनुपालन न होण्याच्या घटनांमध्ये कमी होईल.

निष्कर्ष

AI मध्ये संधी आणि फायदे अनेक आहेत, परंतु त्याआधारे असलेला धोका AI पुरवठा साखळीच्या गुंतागुंतीच्या स्वरूपामुळे अनेकदा अस्पष्ट राहतो. या धोक्यांना ओळखणे अत्यंत महत्त्वाचे आहे, विशेषतः जेव्हा ते राष्ट्रीय सुरक्षा हक्कांवर परिणाम करतात. अमेरिका आणि भारत, ह्या प्रमुख AI इकोसिस्टम्सना लोकतांत्रिक मूल्ये आणि मानवी हक्कांच्या पाठिंब्याने संपन्न करू शकतात. यामध्ये हे नक्कीच हे सुनिश्चित करावे लागेल की या AI उत्पादनांवर अवलंबून राहणे महत्त्वपूर्ण इन्फ्रास्ट्रक्चरमध्ये प्रणालीगत अदृश्य धोके तर निर्माण करत नाही.

अमेरिका-भारत भागीदारीने कृत्रिम बुद्धिमत्तेच्या महत्त्वपूर्ण राष्ट्रीय सुरक्षा वापरासाठी मॉडेल लेक इकोसिस्टम तयार केल्याने अदृश्य धोक्यांचा उलगडा होऊ शकतो आणि या धोक्यांचा सामना करण्यात त्यात भाग घेणाऱ्या हितधारकांना मदत होईल. ऑस्ट्रमचे विचार घेत, आपल्याला फक्त बाजारपेठा आणि राज्ये यापलीकडे, ज्या लोकांमध्ये ज्ञान आणि शाश्वत शासकीय प्रशासनाची क्षमता आहे, त्यांच्याकडे पाहण्याची गरज आहे.


वैभव गर्ग हे कॉमकास्ट केबलमध्ये सायबरसिक्युरिटी रिसर्च आणि पब्लिक पॉलिसीसाठी एक्झिक्युटिव्ह डायरेक्टर आहेत.

The views expressed above belong to the author(s). ORF research and analyses now available on Telegram! Click here to access our curated content — blogs, longforms and interviews.