क्या AI की एक गलती आपको अपराधी बना सकती है?

आर्टिफिशियल इंटेलिजेंस और बायोमेट्रिक उपकरण भारतीय कानून प्रवर्तन में प्रस्ताव से व्यवहार (अमल) में आ चुके हैं. यह एक ऐसा बदलाव है जो कम से कम 2017-2018 से चल रहा है और समय के साथ इसमें और तेज़ी आई है. 2020 के उत्तर-पूर्वी दिल्ली दंगों के बाद, जांचकर्ताओं ने इसमें शामिल लोगों की पहचान करने के लिए फेशियल रिकग्निशन (चेहरे की पहचान करने वाली) तकनीक का सहारा लिया. इसके परिणाम असमान रहे. एक मामले में, एक व्यक्ति को जमानत मिलने से पहले साढ़े चार साल हिरासत में बिताने पड़े. उसकी हिरासत मुख्य रूप से एक सीसीटीवी फ्रेम से फेशियल रिकग्निशन टेक्नोलॉजी (FRT) द्वारा उत्पन्न 80 प्रतिशत समानता स्कोर पर आधारित थी. दिल्ली पुलिस ने दंगों की 750 से अधिक जांचों में FRT का इस्तेमाल किया, फिर भी जिन मामलों में फैसला आया, उनमें से 80 प्रतिशत से अधिक बरी या डिस्चार्ज होने पर समाप्त हुए.

राज्य के पास ऑटोमेशन पर निर्भर होने के संरचनात्मक कारण हैं. 'इंडिया जस्टिस रिपोर्ट' के अनुसार, पुलिस-जनसंख्या अनुपात 100,000 पर 155 पर अटका हुआ है, जो संयुक्त राष्ट्र के 222 के मानक से काफी कम है. बिहार में यह अनुपात लगभग 81 प्रति 100,000 है, और राष्ट्रीय स्तर पर स्वीकृत पदों में से 22 प्रतिशत पद खाली पड़े हैं. संसाधनों की पुरानी कमी के माहौल में, एल्गोरिद्म सहायता को आसानी से एक प्रशासनिक उपाय के रूप में पेश कर दिया जाता है.

इस्तेमाल का मौजूदा माहौल

ये तरीके पूरी तरह अचूक होने से बहुत दूर हैं, इन पर अत्यधिक निर्भरता 'अंधी पुलिसिंग' का जोखिम पैदा करती है. 'प्रोजेक्ट पैनऑप्टिक' ट्रैकर विभिन्न एजेंसियों में चालू किए गए 170 फेशियल रिकग्निशन (चेहरे की पहचान करने वाले) सिस्टम का दस्तावेजीकरण करता है, हालांकि इनमें से केवल 20 के करीब ही काम कर रहे हैं, जिन पर कुल ₹1,513 करोड़ का संचयी खर्च आया है. पंजाब का PAIS 390,000 से अधिक रिकॉर्ड और 84,000 वॉयस सैंपल (आवाज के नमूनों) की खोज करता है, उत्तर प्रदेश के 'त्रिनेत्र' (Trinetr) में 900,000 से अधिक रिकॉर्ड हैं, और तेलंगाना वास्तविक समय में बायोमेट्रिक मिलान के लिए अधिकारियों को TSCOP इकाइयाँ जारी करता है. 2018 में, साधन हलदर बनाम राष्ट्रीय राजधानी क्षेत्र दिल्ली मामले में दिल्ली उच्च न्यायालय के निर्देश के तहत, पुलिस ने केवल एक सीधे उद्देश्य-लापता बच्चों का पता लगाने-के लिए FRT हासिल किया था, और किसी अन्य उपयोग की अनुमति नहीं थी. हलफनामों के अनुसार, 2018 में इस सिस्टम की सटीकता 2 प्रतिशत थी, जो अगले वर्ष गिरकर 1 प्रतिशत से भी कम हो गई. इसके बावजूद, इस तकनीक को व्यापक स्तर पर पहचान के कार्यों के लिए तैनात किया गया.

जोखिम मापने वाले ये टूल असली अपराधियों को नहीं पहचानते, बल्कि यह देखते हैं कि इतिहास में किसे ज़्यादा गिरफ्तार किया गया. यह डेटा इस बात से तय होता है कि पुलिस ने कहाँ ज़्यादा निगरानी की और किन समुदायों को निशाना बनाया. इस वजह से इनका परिणाम निष्पक्ष दिखने के बावजूद पुराने भेदभाव को ही दोहराता है.

इस विस्तार का बोझ समान रूप से वितरित नहीं है. सीसीटीवी घनत्व के स्थानिक अध्ययन महत्वपूर्ण अल्पसंख्यक आबादी वाले क्षेत्रों में इसकी भारी सघनता को दर्शाते हैं. इस बीच, डिजिटल रूप से समृद्ध आबादियों पर प्रशिक्षित किए गए मॉडल, भारत में सबसे प्रमुख वंचितों के पैमानों, विशेष रूप से जाति और धर्म, के खिलाफ खराब प्रदर्शन करते हैं.

ब्लैक बॉक्स के भीतर  

एल्गोरिद्म सिस्टम डेटा इनपुट को परिणाम में बदलता है, लेकिन इसके काम करने का तरीका छिपा रहता है. विक्रेता इस आंतरिक प्रक्रिया, मॉडल डिज़ाइन और निर्णय सीमाओं को बाहरी जांच से बचाने के लिए कानूनी तौर पर 'व्यापार रहस्य' (ट्रेड सीक्रेट) सुरक्षा का सहारा लेते हैं. यह प्रणाली किसी व्यक्ति को उच्च-जोखिम, उपयुक्त, या संदिग्ध के रूप में वर्गीकृत करने जैसा सबसे महत्वपूर्ण कार्य एक ऐसी दीवार के पीछे करती है जिसे न तो प्रभावित व्यक्ति और न ही समीक्षा करने वाला प्राधिकरण देख सकता है.

मशीन लर्निंग मॉडल पुराने डेटा के पैटर्न देखकर नए मामलों का फैसला करते हैं. जोखिम मापने वाले ये टूल असली अपराधियों को नहीं पहचानते, बल्कि यह देखते हैं कि इतिहास में किसे ज़्यादा गिरफ्तार किया गया. यह डेटा इस बात से तय होता है कि पुलिस ने कहाँ ज़्यादा निगरानी की और किन समुदायों को निशाना बनाया. इस वजह से इनका परिणाम निष्पक्ष दिखने के बावजूद पुराने भेदभाव को ही दोहराता है. सबसे बड़ी समस्या यह है कि इस पूरी प्रक्रिया में पारदर्शिता नहीं होती. अपारदर्शिता के कारण कोई भी पीड़ित इसके फैसले को चुनौती नहीं दे सकता. इसे इस्तेमाल करने वाली पुलिस भी अदालत में इसके काम करने के तरीके को समझा नहीं पाती, क्योंकि तकनीकी कंपनियां 'व्यापार रहस्य' का हवाला देकर इसकी मुख्य जानकारी छुपा लेती हैं. इस वजह से किसी को जिम्मेदार नहीं ठहराया जा सकता. सबसे गंभीर बात यह है कि इससे होने वाली गलतियाँ उन गरीब या अल्पसंख्यक समूहों पर ज़्यादा असर डालती हैं, जिन्हें पहले से ही पुलिसिंग में निशाना बनाया जाता रहा है. 

एल्गोरिद्म पुलिसिंग के जोखिम  

साक्ष्य संबंधी जोखिम

मशीन लर्निंग निश्चित पहचान के बजाय संभावित समानता स्कोर  उत्पन्न करती है. 80 प्रतिशत के मिलान को पुख्ता सबूत मान लेना विभिन्न जनसांख्यिकीय समूहों में त्रुटियों (गलतियों) के असमान वितरण की अनदेखी करता है. अमेरिकन सिविल लिबर्टीज यूनियन का अमेज़ॅन रिकॉग्निशन  का 2018 का ऑडिट इस मामले में शिक्षाप्रद है. 80 प्रतिशत के विश्वास स्तर पर, सिस्टम ने संयुक्त राज्य अमेरिका (US) कांग्रेस के 28 सदस्यों का गलत तरीके से गिरफ्तारी की तस्वीरों से मिलान कर दिया. उन गलत मिलानों में से लगभग 40 प्रतिशत लोग अश्वेत या अन्य नस्लीय समूहों के थे. एक ऐसी सीमा (थ्रेशोल्ड) जो जनसांख्यिकीय रूप से पक्षपाती 'गलत सकारात्मक परिणाम' उत्पन्न करती है, वह 'उचित संदेह से परे' के सबूत के बोझ को पूरा नहीं कर सकती.

व्यापार रहस्य संबंधी जोखिम 

व्यापार रहस्य सुरक्षा के लिए, पेटेंट के विपरीत, किसी प्रकटीकरण की आवश्यकता नहीं होती है और यह हमेशा के लिए चल सकती है. वास्तुकला, प्रशिक्षण डेटा, फीचर वेटिंग और थ्रेशोल्ड ठीक वही चीजें हैं जिनकी एक अदालत को किसी विवादित मिलान का आकलन करने के लिए आवश्यकता होगी. फिर भी निरीक्षण का एकमात्र तरीका, यानी रिवर्स इंजीनियरिंग, एक प्रतिवादी या समीक्षा करने वाले मजिस्ट्रेट के लिए बंद रहता है. आर्थिक सहयोग और विकास संगठन (OECD) का मार्गदर्शन इसके विपरीत दिशा में इशारा करता है, जो सिफारिश करता है कि सही और गलत सकारात्मक दरों को रिकॉर्ड किया जाना चाहिए और उन्हें जांच के लिए खुला रखा जाना चाहिए. के.एस. पुट्टास्वामी बनाम भारत संघ  के तहत निजता का उल्लंघन होने की स्थिति में वैधता, वैध उद्देश्य, आवश्यकता की शर्तों को पूरा करना आवश्यक है. एक ऐसी प्रणाली जिसकी सटीकता का निरीक्षण नहीं किया जा सकता.

आर्थिक सहयोग और विकास संगठन का मार्गदर्शन इसके विपरीत दिशा में इशारा करता है, जो सिफारिश करता है कि सही और गलत सकारात्मक दरों को रिकॉर्ड किया जाना चाहिए और उन्हें जांच के लिए खुला रखा जाना चाहिए.

अप्रत्यक्ष भेदभाव का जोखिम 

त्रुटि का वह असमान वितरण केवल तकनीकी नहीं है; भारतीय संवैधानिक कानून के पास इसका एक सुविकसित जवाब है. अनुच्छेद 14 और 15 अब जानबूझकर किए गए भेदभाव से आगे बढ़कर अप्रत्यक्ष भेदभाव तक पहुँचते हैं- सर्वोच्च न्यायालय निष्पक्ष दिखने वाले उन नियमों को 'अप्रत्यक्ष भेदभाव' मानता है जो कमजोर वर्गों पर अनुचित बोझ डालते हैं. अदालत जाँचती है कि क्या कोई नियम किसी सुरक्षित समूह को नुकसान पहुँचाकर उनके ऐतिहासिक पिछड़ेपन को बढ़ाता है. 

दुनिया भर के अध्ययन और नियम  

OECD (आर्थिक सहयोग और विकास संगठन) कानून-प्रवर्तन निकायों को सबसे अधिक जोखिम वाले AI उपयोगकर्ताओं में वर्गीकृत करता है. वैश्विक स्तर पर रद्द की गई 61 सरकारी ऑटोमेशन परियोजनाओं में से आधी पुलिसिंग से जुड़ी थीं, जिन्हें अक्सर फेशियल रिकग्निशन के विरोध के बाद हटाया गया. उदाहरण के लिए, फ्रांसीसी पुलिस का पूर्वानुमान उपकरण अपारदर्शी सामाजिक-जनसांख्यिकीय कारकों पर निर्भर था, जिसका कोई प्रमाणित आधार नहीं था. 

यूरोपीय संघ का AI अधिनियम, जो 2025 से लागू है, सार्वजनिक स्थानों पर वास्तविक समय (रियल-टाइम) में दूरस्थ बायोमेट्रिक पहचान को एक 'अस्वीकार्य-जोखिम वाली प्रथा' मानता है. अर्जेंटीना इससे भी आगे निकल गया. एक अदालत ने 9.3 मिलियन से अधिक अनधिकृत बायोमेट्रिक अनुरोधों को पाए जाने के बाद 2022 में ब्यूनस आयर्स की फेशियल रिकग्निशन प्रणाली को निलंबित कर दिया, और निगरानी एवं प्रभाव-आकलन तंत्र स्थापित होने तक इसकी वापसी पर रोक लगा दी; इस निर्णय को 2023 में अपील पर बरकरार रखा गया था.

सरकार को बड़े पैमाने पर चेहरा पहचानने के बजाय केस मैनेजमेंट जैसे कम जोखिम वाले कामों को प्राथमिकता देनी चाहिए. इसके साथ ही, कानून में जरूरी संशोधन किए जाने चाहिए ताकि केवल फेशियल रिकग्निशन मिलान के आधार पर किसी की गिरफ्तारी या हिरासत न की जा सके.

यूनाइटेड किंगडम एक अधिक शांत सबक प्रदान करता है: डरहम कांस्टेबुलरी  ने आवश्यक निगरानी मानकों को पूरा करने की लागत का हवाला देते हुए 2020 में अपने 'हार्म असेसमेंट रिस्क टूल' को बंद कर दिया. ग्रिग्स बनाम ड्यूक पावर कंपनी से निकला 'असमान प्रभाव का सिद्धांत' उन निष्पक्ष प्रथाओं को लक्षित करता है जो इरादे की परवाह किए बिना किसी संरक्षित समूह को नुकसान पहुँचाती हैं. क्षमताओं का दृष्टिकोण अगला सवाल जोड़ता है. सार्वजनिक सुरक्षा के नाम पर भी तकनीक को लोगों की आज़ादी और काम करने की क्षमता को नहीं रोकना चाहिए. अल्पसंख्यक क्षेत्रों में केंद्रित फेशियल रिकग्निशन इस स्वतंत्रता को बाधित करता है. 

भारत के लिए नीतिगत संरचना

वास्तविक डेटा गवर्नेंस (डेटा प्रशासन) की दिशा में बढ़ने के लिए कुछ उपायों की आवश्यकता है.

सरकार को बड़े पैमाने पर चेहरा पहचानने के बजाय केस मैनेजमेंट जैसे कम जोखिम वाले कामों को प्राथमिकता देनी चाहिए. इसके साथ ही, कानून में जरूरी संशोधन किए जाने चाहिए ताकि केवल फेशियल रिकग्निशन मिलान के आधार पर किसी की गिरफ्तारी या हिरासत न की जा सके. डिस्पैरेट (एल्गोरिद्मिक) एडवांटेज यह दर्शाता है कि बाधा कानूनी होने के बजाय सूचनात्मक है. एल्गोरिद्म भेदभाव को रोकने के लिए वर्तमान समानता कानून पर्याप्त है, लेकिन नियामकों के पास पारदर्शिता की कमी है. इसका समाधान संस्थागत बुनियादी ढांचे और स्वतंत्र ऑडिट अधिकार से संभव है. इसके तहत कंपनियों के गोपनीय व्यापार रहस्यों को नुकसान पहुंचाए बिना केवल अंतिम नतीजों का विश्लेषण किया जाएगा, जिससे निष्पक्षता का पता चल सके. इसके अतिरिक्त, प्रत्येक पुलिस बल को एक पारदर्शिता रजिस्टर बनाना चाहिए, जिसमें एआई सिस्टम के विक्रेता, स्थान और त्रुटि दर की जानकारी दर्ज हो. अंत में, किसी भी निगरानी प्रणाली को स्थायी अधिकार नहीं मिलना चाहिए और एक निश्चित समय के बाद उसकी पुनः जांच अनिवार्य होनी चाहिए. 

एआई भारत में पुलिस का काम आसान कर सकता है, लेकिन इसके लिए पारदर्शिता और तैनाती से पहले जोखिमों को सुलझाना जरूरी है. वर्तमान में सुरक्षा उपाय कम है. यदि एआई का उपयोग केवल प्रशासनिक कार्यों, स्वतंत्र ऑडिट और पारदर्शिता रजिस्टरों के तहत हो, तो यह न्याय व्यवस्था को मजबूत करेगा.

पुरुषराज पटनायक ऑब्जर्वर रिसर्च फाउंडेशन के सेंटर फॉर डिजिटल सोसाइटीज में रिसर्च असिस्टेंट हैं.