रक्षा-क्षेत्र और सैन्य ज़रूरतों की पूर्ति में एआई का इस्तेमाल बढ़ तो रहा है लेकिन इसकी सीमाओं और संभावनाओं का समझना बहुत ज़रुरी है ताकि जोख़िम का निवारण हो सके और दुर्घटनाओं की आशंका ना रहे
समाज अब सूचना के युग (इन्फार्मेशन ऐज) से एक ऐसे युग में प्रवेश कर रहा है जिसमें डेटा, सूचना तथा कंप्यूटर-संचालित भौतिक ढांचे यानि सायबर-फिजिकल सिस्टम का जोर है. सामाजिक रुपांतरण की इस प्रक्रिया का एक निर्णायक तत्व है आर्टिफिशियल इंटेलीजेंस (एआई) जिसे हम-आप बोलचाल की भाषा में कृत्रिम बुद्धि या फिर मशीन-केंद्रित बुद्धि जैसा नाम दे सकते हैं. राज्यसत्ताएं अब एक-दूसरे से आमने-सामने के सशस्त्र संघर्ष में उलझने से बचती हैं. उनके बीच प्रतिस्पर्धा का खेल युद्ध के परंपरागत तरीकों और मैदानों से दूर एक आभासी जगत में चलता है. राज्यसत्ताओं की भरपूर कोशिश रहती है उनके बीच चल रही प्रतिस्पर्धा सशस्त्र संघर्ष के हद तक ना जाने पाये और ऐसे में राज्यसत्ताओं के लिए [i] — सूचनाओं और डेटा के विशाल भंडार का इस्तेमाल अपने हक में करना बहुत ज़रुरी हो जाता है.[ii] इसमें कोई शक नहीं कि सशस्त्र संघर्ष की स्थिति में दुश्मन पर परंपरागत तरीकों से मारक हमला करने की क्षमता का महत्व हमेशा बना रहेगा. लेकिन ये बात भी सच है कि आर्टिफिशियल इंटेलीजेंस, डेटा एनालिटिक्स तथा क्लाउड कंप्यूटिंग के निरंतर बढ़ते इस्तेमाल वाली दुनिया में राज्यसत्ताओं को अपनी बढ़त बनाये रखने के लिए डेटा तथा सूचना के मामले में संग्रहण, संप्रेषण और विश्लेषण (इन्फार्मेशन-अवेयरनेस) में महारत हासिल करना ज़रुरी है— यह आपसी होड़ का ‘डिजिटल संसार’ है, यहां युद्ध के परंपरागत हथियारों से नहीं बल्कि आर्टिफिशियल इंटेलीजेंस के सहारे चलने वाले दांव-पेंच से एक-दूसरे को शह और मात देने का खेल चलता है.
एआई एक बीज-शब्द है. इस एक शब्द के सहारे कई चीजों का एक साथ संकेत किया जाता है जैसे, कंप्यूटर साइंस, लर्निंग, [iii] स्ट्रेटजिज्, एप्लीकेशन्स तथा इन चीजों के इस्तेमाल से जुड़े मामले. बीते एक दशक में एआई के क्षेत्र में रुचि बढ़ी है, सो शोध और अनुप्रयोग को पर्याप्त बढ़ावा मिला है. इसके कई कारण हैं: डेटा अब बड़े पैमाने पर उपलब्ध है, संगणन-क्षमता(कंप्यूटिंग पावर) बढ़वार पर है, मशीन लर्निंग (ये अपने स्वभाव में ‘रुल बेस्ड सिस्टम’ से अलग होता है [iv]), तथा इलेक्ट्रानिक्स पर आधारित उत्पादों और उपकरणों(डिवाइसेज) का मिनीएचुराइजेशन हुआ है यानि उन्हें अब अत्यंत छोटे-छोटे रुपाकार में बनाना संभव हो चला है. एआई का पूरा क्षेत्र एक वक्त तक अकादमिक और शोध-अनुसंधान की छोटी सी दुनिया तक सिमटा था लेकिन अब वह लोगों के बीच व्यापक इस्तेमाल का विषय है, निजी और सार्वजनिक दोनों ही क्षेत्रों में एआई का इस्तेमाल व्यापक रुप से होने लगा है. [v]
बातें चाहे जितनी बढ़ी-चढ़ी कही जा रही हों लेकिन रक्षा-संदर्भों में एआई और एप्लॉयड मशीन लर्निंग का उपयोग अपने असर के मामले में बहुत चमकदार साबित नहीं हुआ. रक्षा-मामलों के लॉजिस्टिक्स, प्रिडिक्टिव मेंटेनेंस तथा सस्टेन्मेंट सरीखे क्षेत्र कंप्यूटेशनल नवाचार के लिए अब बिल्कुल तैयार दिखते हैं. इन क्षेत्रों में कंप्यूटेशनल नवाचार के जरिये कामगारों को ऐसे कामों में सहायता दी जा सकती है जिन्हें लगातार दोहराना होता है. ऐसी सहायता के जरिये बड़े पैमाने पर डेटा का प्रसंस्करण किया जा सकता है. रक्षा-संदर्भों में एआई के उपयोग के लिहाज से देखें तो परिचालन के धरातल पर अभी की स्थिति में संभव यही जान पड़ता है कि संसाधनों का आबंटन और प्रबंधन अधिकतम स्तर तक पहुंचे ताकि रक्षा-मामले में अपने निश्चित दायित्व के निर्वाह में लगे पेशेवर लोग विपक्षी खेमे के उस हिस्से में अपनी पैठ बना सकें जहां से विपक्षी खेमे के लोग निर्णय लिया करते हैं.
राष्ट्रीय सुरक्षा के अपेक्षाकृत डेटा-दुर्लभ परिवेश में डेटा की गुणवत्ता और सुरक्षा का मसला एआई के अनुप्रयोग में बाधक है.
बेशक राष्ट्रीय रक्षा और सैन्य प्रणालियों के लिए एआई का इस्तेमाल युद्ध में प्रौद्योगिकी की भूमिका को लेकर चिंता जगाता है लेकिन ऐसी ज़्यादातर चिंताएं नयी नहीं हैं. रक्षा-प्रणाली के दायरे में चाहे एआई को शामिल किया गया हो या नहीं लेकिन युद्ध से संबंधित अंतर्राष्ट्रीय कानून तथा बल-प्रयोग और सैन्य कार्रवाई से संबंधित राष्ट्र-विशेष के अपने कानून [vi] इस मामले में निश्चित ही अमल में हैं. सैन्य-अनिवार्यता, विशिष्टता तथा आनुपातिकता के सिद्धांत इस मामले में प्रासंगिक बने हुए हैं, साथ ही साथ मौजूदा फ्रेमवर्क, संरचना और संस्थान के सहारे सशस्त्र संघर्ष की स्थिति में उन्नत प्रौद्योगिकी के इस्तेमाल या फिर इसके विकास को नियमित-नियंत्रित किया जा सकता है..[vii] सैन्य मामलों से जुड़े कानूनगो, नीतिशास्त्री (ईथीसिस्ट) तथा नीति-निर्माता निरंतर ही ये देखने में लगे रहते हैं कि संबंधित कानूनों और दिशा-निर्देशों में कहीं कोई नुक्स तो नहीं और उनके बीच इस बात पर अभी सहमति नहीं बन पायी है कि मौजूदा कानूनों में नुक्स है या नहीं. हां, मसले से जुड़े सभी पक्षकार (स्टेक होल्डर) रक्षा-संदर्भों में एआई के इस्तेमाल को लेकर इस बात पर सहमत हैं कि ‘सिस्टम’ मजबूत, सुरक्षित और पारदर्शी हो, जरुरत के समय सिस्टम की तमाम चीजों का पता लगा पाना संभव हो.
इसके अलावा एक बात ये भी गौर करने की है कि एआई सिस्टम एक विशेष इको-सिस्टम [viii] में काम करता है. इसमें ना केवल एल्गोरिद्म बल्कि वो डेटा भी शामिल है जिससे एल्गोरिद्म सीख लेता है. साथ ही, एआई इको-सिस्टम के दायरे में कंप्यूटिंग इन्फ्रास्ट्रक्चर(संगणकीय ढांचा) और गवर्नेंस स्ट्रक्चर (प्रशासकीय ढांचा) आता है और बहुत से वे कामगार भी जो टेक्नोलॉजी की डिज़ाइनिंग करने, उसे तैनात करने और बरतने का काम करते हैं और इस क्रम में टेक्नोलॉजी से प्रभावित होते हैं. भावी संघर्षों में एआई सिस्टम की सफलता बहुत हद तक इस बात पर निर्भर होगी कि एआई इको-सिस्टम का किस हद तक विकास हो पाता है. कई राष्ट्र अपने अविकसित एआई ईको-सिस्टम की मुश्किल से जूझ रहे हैं और इस दिशा में तेजी से विकास के लिए अपेक्षित समय, ध्यान और वित्तीय सहायता जैसे पहलुओं पर जोर दे रहे हैं.[ix]
‘खुद करो और सीखो’की लीक पर समाधान निकल सकें, इसके लिए हमें डेटा और कंप्यूटिंग संसाधनों की आवश्यकता और उपलब्धता पर भी जोर देना होगा. राष्ट्रीय सुरक्षा के अपेक्षाकृत डेटा-दुर्लभ परिवेश में डेटा की गुणवत्ता और सुरक्षा का मसला एआई के अनुप्रयोग में बाधक है. बेशक रक्षा-संबंधी डेटा मौजूद है लेकिन ये डेटा अक्सर किसी बंधे-बंधाये रुप में नहीं होता और मशीन लर्निंग सॉल्यूशन्स के अनुकूल नहीं पड़ता. ज़्यादातर मामलों में बुनियादी कम्प्यूटेशनल इन्फ्रास्ट्रक्चर और नेटवर्किंग को खास तौर से अपग्रेड करने की जरुरत पड़ती है, साथ ही ‘कंप्यूट’ (संगणित) करने की ज़रूरतों का भी समाधान करना पड़ता है. [x]
अगर व्यवहार की जमीन पर देखें तो जान पड़ेगा कि एआई का एक पक्ष जो सचमुच हथियारों के मामले में चलने वाले होड़ की तरह है, प्रतिभाओं को जुटाने के मामले में राष्ट्रों के बीच चलने वाली होड़ से संबंधित है. [xi] अत्यधिक सक्षम और सफल मशीनों के निर्माण और संचालन के लिए शिक्षित और कुशल कार्यबल का विकास करना बहुत ज़रुरी है. इस दायरे में व्यावसायिक शिक्षा, विश्वविद्यालय के स्तर पर होने वाली विज्ञान के विषयों की पढ़ाई , प्रौद्योगिकी, इंजीनियरिंग और गणित (एसटीईएम) शामिल हैं. साथ ही, ये भी ज़रुरी है कि बच्चों को शुरुआती स्तर से ही कंप्यूटर-विज्ञान की शिक्षा दी जाये. सक्षम प्रतिभाओं के विकास में समय लगता है, हमारे लिए इस मोर्चे पर जूझना तो ज़रुरी है ही लेकिन हमें ये भी देखना होगा कि फिलहाल जो प्रतिभाएं मौजूद हैं, राष्ट्र उनको हासिल करने के लिए आपसी होड़ में लगे रहेंगे. मिसाल के लिए रूस और चीन दोनों ही अपने लोगों को एसटीईटी यानि साईन्स, टेक्नोलॉजी, इंजीनियरिंग और मैथ्स् की शिक्षा देने पर जोर लगा रहे हैं लेकिन उनके बीच इस बात की भी होड़ चल रही है कि तकनीकी प्रतिभा और विशेषज्ञता के धनी बाहर की प्रतिभाओं के अपने यहां अधिकाधिक संख्या में बुला लें. [xiii]
यों एआई के तमाम पहेलियों को एक हद तक सुलझा लिया गया है तो भी एआई और मशीन लर्निंग की क्षमताओं का उपयोग अपेक्षाकृत एक सीमित दायरे तक ही है और निकट भविष्य में भी ये उपयोग खास बढ़ने वाला नहीं. [xiv] एआई का क्षेत्र हमेशा उद्देश्योन्मुखी, समस्या-केंद्रित तथा सदर्भ-आधारित रहा है. अगर समस्या की पहचान और परख खूब अच्छी तरह कर ली गई है तो ही उसके समाधान के लिए किये जा रहे प्रत्यक्ष कामों में एआई का उपयोग संभव हो पाता है. इसके अतिरिक्त, मशीन लर्निंग के लिए डेटा-सेटस् को उनके स्वभाव और उपयोग के लिहाज से नाम देना ज़रुरी होता है. ऐसा डेटा सेटस् तैयार करना और उसका रख-रखाव करना बहुत समय की मांग करता है.रक्षा-क्षेत्र में संवेदनशील माने जाने वाले डेटा सेटस् को हासिल करने का परंपरागत तरीका चुनौतियों से भरा है. ऐसे डेटा-सेटस् तक पहुंच प्रतिबाधित होती है और डेटा-सेटस् एकसाथ नहीं बल्कि अलग-अलग खांचों में बंटकर मिलते हैं. एआई के उपयोग के मद्देनज़र ऐसी चुनौतियों का भी ध्यान रखना होगा.
एआई की सीमाओं को ठीक-ठीक समझना ज़रुरी है. इन सीमाओं को समझने में भूल हो सकती है जो बहुत कुछ हमारे इस सोच की देन है कि मशीन लर्निंग की युक्तियां चमत्कारिक होती हैं और ऐसे सोच से हम एआई के उपयोग को लेकर बहुत सारी उम्मीदें पाल लेते हैं. अगर एआई की सीमाओं को ठीक-ठीक ना समझा गया तो जोखिम के बढ़ने और दुर्घटनाओं के बढ़वार की आशंकाएं बलवती होंगी. एआई, सिस्टम्स के भीतर नये तर्ज की कमजोरियों और नाकामयाबियों को लेकर आया है. [xv] यों युद्ध की स्थिति में सिस्टम-फेल्योर (तंत्रगत असफलता) की बात सिर्फ एआई तक सीमित नहीं लेकिन गौर करने की बात ये है कि मशीन-लर्निंग की युक्तियों का नाकाम होने अपने स्वभाव में अलग होता है. बहुत संभव है ऐसे फेल्योर को पहचान पाना नामुमकिन हो और फेल्योर कोई ऐसा नया रुप ले ले जिसकी हमें उम्मीद ही ना हो. इसके अतिरिक्त ये जान पाना भी मुश्किल होता है कि सिस्टम मंशा के अनुरुप काम कर रहा है या नहीं. एप्लायड मशीन लर्निंग के मामले में इस बात को ठीक-ठीक पकड़ पाना बहुत मुश्किल होता है कि वो अपने बर्ताव में दरअसल गड़बड़ी कहां और क्यों कर रहा है और ठीक इसी कारण ये सुनिश्चित कर पाना भी मुश्किल होता है कि ऐसी गड़बड़ी दोबारा ना हो. स्पष्ट है कि युद्ध की स्थितियों में अगर मशीन लर्निंग पर आधारित युक्तियों का इस्तेमाल किया जाता है तो इसके लिए बहुत ज़रुरी होगा पहले से ये जान लेना कि सिस्टम-फेल्योर की हालत में क्या नतीजे सामने आ सकते हैं. मिसाल के लिए, ड्रोन वीडियो एनालिसिस [xvi] को ही लें जो रक्षा-मामलों में एआई के इस्तेमाल की जानी-पहचानी युक्तियों में एक है. ऐसे जाने-पहचाने एप्लीकेशन्स (युक्तियों) के मामले में भी हम ये नहीं मान सकते कि एआई की तकनीकी परिपक्वता और क्षमता उस सीमा तक पहुंच गई है कि अब बिना खास जोखिम उठाये हम पूरी तरह से मशीनों पर निर्भर हो जायें.
रक्षा-क्षेत्र की चुनौतियों के मद्देनज़र जो काम दोहराव वाले और अपने स्वभाव तथा बनावट में सुपरिभाषित हैं, वहां एआई का इस्तेमाल उपयोगी साबित हो सकता है लेकिन युद्ध कब शुरु हो या फिर युद्ध कैसे लड़ा जाए जैसे मानवीय सवालों के समाधान में हमें एआई के इस्तेमाल से परहेज करना चाहिए.
युद्ध की स्थिति में लोगों(स्त्री और पुरुष) को जो फैसले लेने होते हैं वे अपने स्वभाव में अत्यंत मानवीय होते हैं. बेशक रक्षा-क्षेत्र की चुनौतियों के मद्देनज़र जो काम दोहराव वाले और अपने स्वभाव तथा बनावट में सुपरिभाषित हैं, वहां एआई का इस्तेमाल उपयोगी साबित हो सकता है लेकिन युद्ध कब शुरु हो या फिर युद्ध कैसे लड़ा जाए जैसे मानवीय सवालों के समाधान में हमें एआई के इस्तेमाल से परहेज करना चाहिए. एआई का इस्तेमाल करने से ये नहीं सुनिश्चित हो जाता कि सशस्त्र-संघर्ष से उपजने वाले जो सवाल हमारे लिए कठिन हैं, उनका समाधान आसान हो जायेगा. दरअसल ऐसे कठिन सवाल पहले की तरह ही कठिन बने रहेंगे. इसके अतिरिक्त ध्यान रखने की एक बात ये भी है कि एआई, मशीन लर्निंग तथा एनालिटिक सपोर्ट टूल्स (विश्लेषण में मददगार युक्तियां) के इस्तेमाल से ये सुनिश्चित नहीं हो जाता कि व्यक्ति खुद फैसले लेने की जिम्मेवारी से बच जाये.
दो निष्कर्ष बड़े स्पष्ट हैं. एक तो ये कि डिजिटल टूल-बॉक्स के कई औज़ारों में से एक औज़ार एआई भी बन चला है और इसके इस्तेमाल भी हैं. लेकिन जहां तक तकनीकी मामलों में परिपक्वता का सवाल है, कई समस्याओं के समाधान में लर्निंग-बेस्ड सिस्टम सर्वाधिक उपयुक्त समाधान नहीं करार दिये जा सकते. बहरहाल, रक्षा-उद्यम से जुड़े कई ऐसे क्षेत्र हैं जहां एआई का इस्तेमाल सुभीते का साबित हो सकता है और जहां तक शत्रु पर हमला बोलने की ताकत का सवाल है, इससे जुड़ी चर्चाओं में एआई के इस्तेमाल की सीमाओं पर ध्यान रखना ज़रुरी है.
दूसरी बात, गुमराही और दुरुपयोग से बचने का सबसे बेहतर तरीका है कि मानव-संसाधन में निवेश किया जाये. वरिष्ठ राजनेता हों या डेवलपर्स अथवा एआई की युक्तियों के सीधे इस्तेमाल से जुड़े लोग(एंड यूजर्स), उन्हें समझना होगा कि एआई और मशीन लर्निंग की कुछ क्षमताएं हैं तो कुछ सीमाएं भी. ऐसी समझ के सहारे ही हम एआई और मशीन लर्निंग का विकास कर सकते हैं और काम पर तैनात भी. भविष्य अपने गुण-धर्म में डिजिटली हो चला है, युद्ध के मैदान भी अब लगातार डिजिटल मैदान का रुप लेते जा रहे हैं- ऐसे में हम एआई की संभावनाओं और उसके इस्तेमाल को ना तो बहुत कम आंक कर चल सकते हैं ना ही बहुत ज्यादा आंक कर.
[i] Melissa Dalton, Kathleen H. Hicks, Megan Donahoe, Lindsey Sheppard, Alice Hunt Friend, Michael Matlaga, Joseph Federici, Matthew Conklin, Joseph Kiernan, By Other Means Part II: Adapting to Compete in the Gray Zone (Washington, DC: CSIS, 2019).
[ii] Lindsey Sheppard and Matthew Conklin, “Warning for the Gray Zone”, By Other Means Part II: Adapting to Compete in the Gray Zone, August 13, 2019,
[iii] Machine learning, natural language processing, knowledge representation, automated reasoning, computer vision, and robotics as identified in Stuart Russell and Peter Norvig, Artificial Intelligence: A Modern Approach, 3rd ed. (Harlow, UK: Pearson Education
Limited, 2014).
[iv] Also known as “expert systems,” rules-based systems are those in which functionality is implemented through hard-coded rules or specified relationships as programmed by humans. At a fundamental level, rules consist of an “IF this condition” and a “THEN that output or action.” As distinct from machine learning, rules-based system performance does not learn or improve over time with new contexts unless new functionality is programmed by a human.
[v] Michael Chui, James Manyika, Mehdi Miremadi, Nicolaus Henke, Rita Chung, Pieter Nel, and Sankalp Malhotra, Notes from the AI Frontier: Insights from Hundreds of Use Cases, McKinsey Global Institute, April 2018.
[vi] An example of “nation-specific law” is the US Department of Defense’s Law of War Manual.
[vii] For the United States perspective on the significance of Law of War to Artificial Intelligence, see: Defense Innovation Board, AI Principles: Recommendation on the Ethical Use of Artificial Intelligence by the Department of Defense, Supporting Document, October 31, 2019, pages 22-24, 53-58.
[viii] Lindsey Sheppard, Robert Karlen, Andrew Hunter, and Leonard Balieiro, Artificial Intelligence and National Security: The Importance of the AI Ecosystem (Washington, DC: CSIS, 2018).
[ix] Raymond Perrault, Yoav Shoham, Erik Brynjolfsson, Jack Clark, John Etchemendy, Barbara Grosz, Terah Lyons, James Manyika, Saurabh Mishra, and Juan Carlos Niebles, “The AI Index 2019 Annual Report”, AI Index Steering Committee, Human-Centered AI Institute, Stanford University, December 2019.
[x] Meredith Whittaker (@mer__edith), “Only ~5 companies in the West have the resources needed to develop AI. AI startups and academic AI research labs license (or are gifted) computational resources from these Big Tech companies”. Twitter, November 29, 2019.
[xi] Elsa Kania, “China’s AI talent ‘arms race’”, The Strategist, ASPI, April 23, 2018,
[xii] Samuel Bendett, “Russia’s National AI Center Is Taking Shape”, Defense One, September 27, 2019; Don Weinland, “China in push to lure overseas tech talent back home”, Financial Times, February 11, 2018.
[xiii] Dawn Liu, “China ramps up tech education in bid to become artificial intelligence leader”, NBC News, January 4, 2020.
[xiv] Rodney Brooks, “My Dated Predictions”, Rodney Brooks: Robots, AI and other Stuff (blog), January 1, 2018, Ram Shankar Siva Kumar, David O’Brien, Jeffrey Snover, Kendra Albert, Salome Viljoen, “Failure Modesin Machine Learning”, Microsoft, November 10, 2019.
[xv] Ram Shankar Siva Kumar, David O’Brien, Jeffrey Snover, Kendra Albert, Salome Viljoen, “Failure Modes in Machine Learning”, Microsoft, November 10, 2019.
[xvi] Colin Clark, “Air Combat Commander Doesn’t Trust Project Maven’s Artificial Intelligence – Yet”, Breaking Defense, August 21, 2019.
The views expressed above belong to the author(s). ORF research and analyses now available on Telegram! Click here to access our curated content — blogs, longforms and interviews.
Lindsey Sheppard is a fellow with the International Security Program at the Center for Strategic and International Studies (CSIS).
Read More +
PREV
