Image Source: Getty
एआई की सॉफ्टवेयर आपूर्ति शृंखला समस्या
तमाम वर्गों के उपभोक्ताओं, डोमेन और क्षेत्रों में एआई के इस्तेमाल के कई मामले देखे जाते हैं, फिर चाहे वह नया डाटा बनाने वाला जेनरेटिव एआई का उपयोग हो या उन आंकड़ों को विभिन्न हिस्सों में बांटने वाला डिस्क्रिम्नेटिव एआई का. एआई मॉडल विकसित करने के लिए संबंधित समाधान की दिशा में काम करने वाले डेवलपर्स, यानी इस प्रौद्योगिकी को उन्नत बनाने वाले लोग शायद ही स्क्रैच (प्रोग्रामिंग भाषा) से शुरुआत करते हैं. इसके बजाय, वे ‘मॉडल रिपॉज़िटरी’, यानी मॉडलों के पूर्व-निर्धारित भंडारों या ‘मॉडल लेक्स’ पर, जिसे आम भाषा में मॉडल-झील भी कह सकते हैं, भरोसा करते हैं, ताकि उनको हगिंगफेस, पीवाईपीआई और कागल जैसे मॉडल-भंडारों और पूर्व-प्रशिक्षित मॉडलों का फ़ायदा मिल सके. यहां ज़रूरी नहीं कि यह सिर्फ़ एआई के लिए ही हो, क्योंकि आमतौर पर डेवलपर्स अपना मालिकाना उत्पाद बनाते समय तीसरे पक्ष के कोड का एक अहम हिस्सा इस्तेमाल करते हैं. साइबर सुरक्षा की नज़र से देखें, तो तीसरे पक्ष के ये घटक नया उत्पाद बनाने वाली टीमों के लिए अदृश्य ख़तरा पैदा कर सकते हैं.
हमलावर इस ख़तरे के प्रबंधन से जुड़ी जटिलताओं को बखूबी जानते हैं, इसीलिए संस्थाओं में घुसपैठ करने के लिए अक्सर तीसरे पक्ष के इन्हीं घटकों का इस्तेमाल किया जाता है. इस तरह के हमले का एक हालिया और बड़ा उदाहरण एक अभिनेता द्वारा ऑपरेटिंग सिस्टम लिनक्स डिस्ट्रिब्यूशंस द्वारा इस्तेमाल किए जा रहे एक्सजेड यूटिल्स में सेंध लगाकर फ़ायदा उठाने का किया गया प्रयास है. असुरक्षित क्रमांकों का उपयोग करके एआई पुस्तकालयों में भी इसी तरह घुसपैठ की जा सकती है. असुरक्षित प्रौद्योगिकियों पर आधारित एआई पुस्तकालयों के लिए यह समस्या और भी गंभीर हो सकती है, क्योंकि यहां मॉडल से छेड़छाड़ करना हमलावरों के लिए आसान हो सकता है.
आशंका इस बात की भी है कि जिन मॉडल का निर्माण उन सॉफ्टवेयरों से होता है, जिन पर बौद्धिक संपदा कानून लागू नहीं होते, यानी जो ‘ओपेन-सोर्स’ मॉडल होते हैं, उनमें भू-राजनीतिक घटनाओं के मद्देनजर भी छेड़छाड़ की जा सकती है. इसका एक उदाहरण ‘प्रोटेस्टवेयर’ है
आशंका इस बात की भी है कि जिन मॉडल का निर्माण उन सॉफ्टवेयरों से होता है, जिन पर बौद्धिक संपदा कानून लागू नहीं होते, यानी जो ‘ओपेन-सोर्स’ मॉडल होते हैं, उनमें भू-राजनीतिक घटनाओं के मद्देनजर भी छेड़छाड़ की जा सकती है. इसका एक उदाहरण ‘प्रोटेस्टवेयर’ है, जहां ओपेन-सोर्स प्रोजेक्ट का प्रबंधन करने या इसमें अपना योगदान देने वाले लोग या संस्थान किसी खास संस्था को नुकसान पहुंचाने के लिए उसके द्वारा इस्तेमाल किए जाने वाले प्रोजेक्ट के कोड में जान-बूझकर फेरबदल कर देते हैं. इससे महत्वपूर्ण कामों का नुकसान तो होता ही है, राष्ट्रीय सुरक्षा पर भी ख़तरा पैदा हो सकता है.
पारदर्शिता के माध्यम से सुरक्षा की सीमाएं
इसी कारण सही एआई मॉडल और संबंधित लाइब्रेरी का चयन करना न केवल नव-निर्मित मॉडल की कार्यक्षमता के लिए अहम हो जाता है, बल्कि ‘क्वाड’ (ऑस्ट्रेलिया, भारत, जापान और अमेरिका का समूह) जैसे बड़े भू-राजनीतिक गठबंधनों और उनकी राष्ट्रीय सुरक्षा चिंताओं के लिए भी महत्वपूर्ण बन जाता है. एआई के विकास-क्रम में अलग-अलग संस्थाओं द्वारा दिए गए विकल्पों को उपभोक्ताओं के लिए पारदर्शी बनाया ही जाना चाहिए. विभिन्न शोधकर्ताओं ने एआई के विकास-पारिस्थितिकी तंत्र में पारदर्शिता लाने के लिए कई तरह के प्रस्ताव दिए हैं, जिनमें एआई मॉडल की संरचना को समझने के लिए संगठनों को मजबूत करने वाला ‘एआई बिल ऑफ मैटेरियल्स’ (एआईबीओएम) और ‘मॉडल कार्ड’ (मशीन लर्निंग मॉडल के लिए बनाया जाने वाला दस्तावेज़) भी एक हैं.
मैनिफेस्ट द्वारा दिए गए इस एआईबीओएम प्रस्ताव में मॉडल, उसके ढांचे और उसके अपेक्षित या अंतर्निहित उपयोग से जुड़े मेटाडाटा पर जोर दिया गया है. जबकि, लिनक्स फ़ाउंडेशन ने एआईबीओएम एक्सटेंशन, यानी विस्तार का प्रस्ताव दिया है, जो अति-सामान्य सॉफ्टवेयर बिल ऑफ मैटेरियल (एसबीओएम) के लिए इस्तेमाल किए जाने वाले चर्चित सिस्टम पैकेज डेटा एक्सचेंज (एसपीडीएक्स) के रूप में है. एआईबीओएम एक्सटेंशन वास्तव में एआई प्रोफाइल को उस डाटासेट से अलग करता है, जिस पर एआई को प्रशिक्षित किया जाता है. लिनक्स फ़ाउंडेशन का मानक एआई मॉडल के प्रदर्शन, नैतिक सहमति, जलवायु पर प्रभाव जैसे तमाम मसलों के बारे में अतिरिक्त जानकारी मुहैया कराकर मैनिफेस्ट के प्रस्ताव को आगे बढ़ाता है.
एआईबीओएम दरअसल मॉडल कार्ड का विस्तार है, जिसे सबसे पहले हगिंगफेस के शोधकर्ताओं ने तैयार किया था. मॉडल कार्ड बनाने का मकसद प्रशिक्षित मॉडलों के उपयोग में पारदर्शिता लाना था, साथ ही संभावित लक्षित आबादी के संदर्भ में उसके प्रदर्शन को बेहतर बनाना था. मॉडल कार्ड की मौजूदगी और हगिंगफेस का उपयोग एक-दूसरे से जुड़ा हुआ मामला है, हालांकि शोधकर्ता मानते हैं कि पर्यावरणीय असर, सीमाओं और गणनाओं को लेकर इसका एक हिस्सा आमतौर पर अधूरा ही रहता है.
इसी कारण, मॉडल लेक पर सिर्फ़ मॉडल कार्ड की पेशकश करने से इन एआई मॉडलों का जोखिम-रहित प्रबंधन पूरी तरह से सुनिश्चित नहीं हो सकता. अधिक आशंका यही है कि मौजूदा स्वरूप में वे ‘क्वाड’ जैसे समूहों के सामने प्रोटेस्टवेयर द्वारा पैदा किए जा रहे विभिन्न भू-राजनीतिक खतरों से नहीं निपट सकेंगे. मिसाल के तौर पर, लिनक्स फ़ाउंडेशन के मौजूदा मॉडल कार्ड के मानक द्वेषपूर्ण घुसपैठ से बचने और एक-दूसरे के खिलाफ मजबूत बनने जैसे प्रमुख सुरक्षा पहलुओं के बारे में सूचना उपलब्ध नहीं कराते हैं.
टिकाऊ और सुरक्षित मॉडल लेक इकोसिस्टम
क्वाड जैसे समूहों के साथ ही तमाम देशों के लिए एक रास्ता यह है कि मॉडल लेक सार्वजनिक और निजी भागीदारी से बनाए जाएं, जिसे ख़ास मामलों में उपयोग के लिए या अलग-अलग क्षेत्रों को लक्षित करने के लिए बनाया जा सकता है. ऐसे अलग-अलग मॉडल लेक को आपस में जोड़कर एक बड़ा मॉडल लेक इकोसिस्टम (एमओएलई) बनाया जा सकता है, जिसका इस्तेमाल कहीं बड़े व्यापक क्षेत्र में हो सकता है. कुछ मामलों का समाधान पारिस्थितकी तंत्र के स्तर पर, तो कुछ निजी मॉडल लेक पर करके ऐसे पारिस्थितिकी तंत्रों को बहु-स्तरीय बनाया जा सकता है.
इन मॉडल पारिस्थितिकी तंत्रों में जो भी शामिल होंगे, उनको संसाधन उत्पादकों (आरपी) और संसाधन उपयोगकर्ताओं (आरयू) में बांटा जा सकता है. संसाधन उत्पादक जहां नए मॉडल जोड़ेंगे या मौजूदा मॉडल को उन्नत बनाएंगे, वहीं संसाधन उपयोगकर्ता एआई उत्पादों का इस्तेमाल करेंगे. इसमें संसाधन इकाई को एक मॉडल के रूप में परिभाषित किया जाएगा.
संसाधन उत्पादक इस पारिस्थितिकी तंत्र के उचित प्रबंधन को लेकर स्वतः प्रोत्साहित होंगे, क्योंकि वे अपने मॉडलों के उपयोग को आगे बढ़ाने का प्रयास करेंगे. संसाधन उपयोगकर्ता भी इसी तरह प्रोत्साहित हो सकते हैं, क्योंकि वे भी अपने उत्पादों में उच्च गुणवत्ता वाले मॉडल की ज़रूरत महसूस करेंगे, जो अगले प्रोटेस्टवेयर हमलों का शिकार न हो. इन तमाम परिदृश्य को देखते हुए यह मानने में ऐतराज़ नहीं होना चाहिए कि इसके सभी साझेदार नए मॉडल कार्ड मानक बनाने के लिए खुद-ब-खुद नियमों का पालन करेंगे, जिससे उनकी सुरक्षा ज़रूरतें पूरी हो सकती हैं. इससे आसन्न मॉडल कार्ड का सही ढंग से काम करना और समान रूप से लोकप्रिय बनना भी सुनिश्चित हो सकेगा.
स्वशासन को आसान बनाने वाला ऐसा ही एक ढांचा है, एलिनोर ऑस्ट्रोम का नोबेल पुरस्कार प्राप्त ढांचा- कॉमन पूल रिसोर्सेज़ (सीपीआर). यह मछली पालन, वन और झीलों जैसे प्राकृतिक संसाधनों के प्रबंधन से जुड़ा है. ऑस्ट्रोम ने इन संसाधनों के सफल स्व-प्रबंधन के लिए पांच मानदंड तय किए हैं-
1- संसाधन की निगरानी की लागत कम होनी चाहिए.
2- संसाधन के पारिस्थितिकी तंत्र में परिवर्तन की दर मध्यम होनी चाहिए.
3- संबंधित साझेदारों को अक्सर आपस में संवाद करते रहना चाहिए और सामाजिक पूंजी के माध्यम से विश्वास बढ़ाने के लिए सामाजिक संपर्क मजबूत बनाना चाहिए
4- उन लोगों को बाहर कर देना चाहिए, जिनका कोई भी हित इससे न जुड़ा हो.
5- सभी साझेदारों को निगरानी और इससे जुड़े नियमों का सम्मान करना चाहिए.
मॉडल झीलों के संदर्भ में, मॉडल कार्ड उपयोगकर्ताओं के सामने मॉडल के लिए (और योगदानकर्ताओं का विस्तार करके) सामाजिक पूंजी तैयार करने में मदद पहुंचाता है. इसकी निगरानी में यह सुनिश्चित किया जाना चाहिए कि मॉडल कार्ड पर दी गई जानकारी (1) प्रासंगिक (2) सही, और (3) पूर्ण हो. जो इन विशेषताओं को पूरा नहीं करते, उन मॉडल कार्ड की जानकारी मुहैया कराकर हितधारक अपना सहयोग दे सकते हैं. गैर-हितधारकों को उन लोगों या संस्थाओं के रूप में परिभाषित किया जा सकता है, जो या तो मॉडल कार्ड मुहैया नहीं करते या फिर कम गुणवत्ता वाले मार्डल कार्ड देना पसंद करते हैं. उनके कार्ड हटाकर, उनके मॉडल को चलन से बाहर करके या मॉडल लेक तक उनकी पहुंच को रोककर हम ऐसे लोगों को बाहर का रास्ता दिखा सकते हैं. जोड़े जा रहे मॉडल और हटाए जा रहे मॉडलों की संख्याओं पर ऊपरी सीमा सुनिश्चित करके, साथ ही मॉडलों की वंशावली तैयार कर और संबंधित मॉडलों का एक समूह बनाकर परिवर्तन की दर को मध्यम रखा जा सकता है. इस तरह के मॉडल लेक ईकोसिस्टम का निर्माण, जिसमें ऑस्ट्रोम के सीपीआर ढांचे के माध्यम से स्वशासन सुनिश्चित किया गया हो, एआई आपूर्ति शृंखला के कई ख़तरों से निपटने में कारगर साबित हो सकता है. मिसाल के लिए-
1- हितधारक अपने स्तर पर ख़तरे का पता लगा सकते हैं और उससे निपट सकते हैं. ऐसे में, यदि प्रोटेस्टवेयर से कोई ख़तरा पैदा होता है, तो हितधारक उससे निपट सकेंगे.
2- खतरों की प्रकृति के अनुसार व्यवस्था तैयार होगी. यह एआई में काफी महत्वपूर्ण है, क्योंकि एआई की प्रकृति और इससे जुड़े ख़तरे, दोनों ही तेजी से बढ़ रहे हैं.
3- यह कम संसाधनों वाले हितधारकों को पारिस्थितकी तंत्र के प्रबंधन मे समान भागीदारी निभाने की अनुमति देता है.
4- संबंधित मानदंड या नियमों में दायित्व-पालन का दिखावा शायद ही किया जा सकेगा, क्योंकि नियम उन संस्थाओं द्वारा बनाए जाएंगे, जो इस्तेमाल की लागत उठाने में सक्षम होंगे.
5- संसाधन प्रतिभागियों को चूंकि प्रोत्साहन मिलेगा, इसलिए ऐसी व्यवस्था स्वाभाविक रूप से दबावरहित होगी और इस प्रकार इसके दुरुपयोग के कम मामले सामने आएंगे.
समाधान
एआई के अवसर और लाभ कई हैं, लेकिन एआई आपूर्ति श्रृंखला की प्रकृति जटिल होने से इस तरह के जोखिम दिखाई नहीं पड़ते. इसलिए, इन ख़तरों का हल निकालना सबसे जरूरी है, खासकर जब वे राष्ट्रीय सुरक्षा से जुड़े हितों पर असर डालने में सक्षम हों. अमेरिका और भारत इस एआई पारिस्थितिकी तंत्र को लोकतांत्रिक मूल्यों व मानवाधिकारों से संपन्न बना सकते हैं. इसमें यह सुनिश्चित करना होगा कि जिन एआई उत्पादों पर निर्भरता है, वे महत्वपूर्ण बुनियादी ढांचे पर कोई अदृश्य ख़तरा न पैदा करने पाएं.
ऑस्ट्रोम की बातों पर गौर करते हुए, हमें बाजार और राज्यों से दूर हटकर उन लोगों की ओर देखना चाहिए, जिनके पास स्थायी शासन के लिए ज्ञान और क्षमता, दोनों है.
एआई के मामलों में राष्ट्रीय सुरक्षा से जुड़े मॉडल लेक इकोसिस्टम बनाने के लिए अमेरिका और भारत साथ आते हैं, तो उन ख़तरों को टाला जा सकता है, जो अपेक्षाकृत कम दिखता है. यह निहित स्वार्थों वाले हितधारकों से निपटने में भी मदद कर सकता है. इसलिए, ऑस्ट्रोम की बातों पर गौर करते हुए, हमें बाजार और राज्यों से दूर हटकर उन लोगों की ओर देखना चाहिए, जिनके पास स्थायी शासन के लिए ज्ञान और क्षमता, दोनों है.
(लेखक कॉमकास्ट केबल में साइबर सुरक्षा अनुसंधान और सार्वजनिक नीति के कार्यकारी निदेशक हैं)
The views expressed above belong to the author(s). ORF research and analyses now available on Telegram! Click here to access our curated content — blogs, longforms and interviews.