AI एकसंधतेच्या क्षेत्रातील संशोधनाचे उद्दिष्ट हे AI विकासामध्ये मानवी मूल्यांचे संकेतन करणे हे आहे. तथापि, जबाबदार नवोन्मेषासाठी विविध संदर्भ आणि मूल्य प्रणालींमुळे सतत दक्षता आवश्यक आहे.
2024 मध्ये ओपन AI चे सह-संस्थापक जॉन शुलमन आणि संशोधक जॉन लीकी यांनी कंपनी सोडली. आता या दोघांनाही AI Alignment संशोधनावर लक्ष केंद्रित करायचे आहे. हे करण्यासाठी त्यांनी open AI ची प्रतिस्पर्धी कंपनी एंथ्रोपिकची निवड केली. AI संशोधनाची एक शाखा म्हणून AI सुरक्षतेचे कार्य सातत्याने वाढत आहे. कृत्रिम बुद्धिमत्तेवर केवळ कायदा किंवा प्रशासनाद्वारे नियंत्रण ठेवणे कठीण ठरत असल्याने कृत्रिम बुद्धिमत्तेच्या सुरक्षेबाबतच्या वाढत्या चिंतांमध्ये कृत्रिम बुद्धिमत्तेच्या संरेखनावर लक्ष केंद्रित करण्यात आले आहे. जरी त्याची व्याख्या आणि दृष्टीकोन भिन्न असले, तरी सोप्या शब्दात समजावून सांगितल्यास, त्यातून उद्भवणाऱ्या हानीची जोखीम कमी करण्यासाठी AI प्रणालीमध्ये मानवी मूल्यांचे एन्कोडिंग करणे याला AI एकरूपता म्हणतात. यात व्यापक सामाजिक आणि प्रासंगिक बारकावे समजून घेणे समाविष्ट आहे ज्या अंतर्गत AI प्रणाली कार्यरत आहेत.
AI मध्ये एकरूपता देखील आवश्यक आहे कारण चुकीच्या संरेखनाने देखील अनेक क्षेत्रांमध्ये नुकसान होते. यामध्ये आरोग्यसेवा (AI असुरक्षित आणि चुकीच्या कर्करोगाच्या उपचारांचा सल्ला देते) सोशल मीडियावर AI-चालित सामग्री मॉडरेशन (अभिव्यक्ती स्वातंत्र्य आणि हानिकारक सामग्री संतुलित करणे) वित्तीय बाजारपेठा (जलद अल्गोरिदमिक ट्रेडिंग ज्यामुळे 2010 मध्ये अमेरिकन शेअर बाजार अचानक कोसळले) गुन्हेगारी न्याय (वंश-आधारित गुन्हेगारी पुनरावृत्ती गुणांकन देणारे अल्गोरिदम) यांचा समावेश आहे.
AI संशोधनाची एक शाखा म्हणून AI एकसंधतेचे कार्य सातत्याने वाढत आहे. कृत्रिम बुद्धिमत्तेवर केवळ कायदा किंवा प्रशासनाद्वारे नियंत्रण ठेवणे कठीण ठरत असल्याने कृत्रिम बुद्धिमत्तेच्या सुरक्षेबाबतच्या वाढत्या चिंतांमध्ये कृत्रिम बुद्धिमत्तेच्या संरेखनावर लक्ष केंद्रित करण्यात आले आहे.
AI संरेखनचा उद्देश गणना करता येण्याजोग्या निरीक्षणे करून चुकीच्या संरेखन समस्यांचे सक्रियपणे निरीक्षण करणे आणि त्यांचे निराकरण करणे हा आहे. निःपक्षपाती आणि संदर्भ-योग्य प्रतिसाद सुनिश्चित करण्यासाठी सामान्यीकरण करणे हे देखील त्यांचे काम आहे. अनपेक्षित परिस्थितीत अनिश्चित वर्तन टाळण्यासाठी बळकट करणे, मानवांना त्यांचा निर्णय घेण्याचा क्रम काय आहे हे सांगणे, AI प्रणाली विकसित करणे, त्यात सतत सुधारणा करणे आणि त्या सर्वांवर मानवी नियंत्रण सुनिश्चित करणे हे AI एकसंधतेखाली येते. AI च्या विकासासाठी आणि वापरासाठी प्रशासन म्हणजेच सरकारांनी जी मानके आणि मार्गदर्शक तत्त्वे तयार केली पाहिजेत ती सैद्धांतिक आणि नैतिक मर्यादेत असायला हवीत, असा प्रयत्नही केला जातो.
AI कार्यप्रणाली तत्त्वांचे प्रिस्क्रिप्शन तुलनेने सोपे असूनही, संदर्भ, प्राधान्ये, भाषा आणि संवेदनशीलतेची विविधता आणि परिवर्तनशीलता एन्कोडिंग करणे हे एक अतिशय कठीण काम आहे. त्यांच्या अपारदर्शकतेमुळे आणि AI अल्गोरिदमच्या अपारदर्शक स्वरूपामुळे, एकरूपता सुनिश्चित करणे खूप जटिल आहे. पारदर्शकता आणि अर्थ लावणे आणि त्या नमुन्यांची संगणकीय व्यवस्था तसेच त्यांची कामगिरी यांच्यात नेहमीच तडजोड असते. सखोलता आणि प्रासंगिकतेच्या दृष्टीने, संगणकीय गणितीय मूल्यांकन तंत्रे सामाजिक वास्तवाचे वैविध्यपूर्ण आणि गतिशील स्वरूप पूर्णपणे समजू शकत नाहीत. हे घडते कारण सामाजिक वास्तव अनेकदा भावनांवर चालते.
AI ची क्षमता जसजशी वाढत जाते, तसतशी AI प्रणालींसह मॉडेलमध्ये अतिआत्मविश्वास, व्यामोह विकसित होण्याची जोखीमही वाढत जाते. गैरसोय अशी आहे की वस्तुस्थितीची अचूकता असूनही, AI प्रणाली वापरकर्त्याशी सहमत आहे. हे स्पष्ट करते की AI मध्ये सतत देखरेखीची गरज का आहे. मानवी प्रतिसादाद्वारे मजबुतीकरण शिक्षण (RLHF) AI मॉडेल्ससारख्या पद्धतींमध्ये देखील प्रतिसादात पक्षपातीपणाची शक्यता असते. ह्यामुळे मानवी दुभाषकाकडून मान्यता मिळवण्याची प्रतिकृतीची प्रवृत्ती वाढते.
AI कार्यप्रणाली तत्त्वांचे प्रिस्क्रिप्शन तुलनेने सोपे असूनही, संदर्भ, प्राधान्ये, भाषा आणि संवेदनशीलतेची विविधता आणि परिवर्तनशीलता एन्कोडिंग करणे हे एक अतिशय कठीण काम आहे.
माहिती प्रणाली व्यवस्थापनातील संशोधनात अनेकदा असे आढळून आले आहे की माहिती तंत्रज्ञानाची एकसंधता ही तांत्रिक क्षमता आणि संघटनात्मक धोरण आणि कार्ये, विद्यमान पद्धती आणि व्यापक सामाजिक संदर्भ यांच्यातील सुसंगतता सुनिश्चित करण्याचा प्रयत्न म्हणून पाहिली जाते. तांत्रिक प्रणाली आणि त्यांचे संदर्भ यांच्यातील समायोजन करण्याची ही एक गतिमान आणि निरंतर प्रक्रिया आहे. जेव्हा आपण जबाबदार नवनिर्मितीबद्दल बोलतो, तेव्हा ती विज्ञानाच्या सामाजिक जबाबदारीच्या चर्चेमध्ये रुजलेली असते. दुसऱ्या शब्दांत, ते वैज्ञानिक आणि तांत्रिक नवकल्पनांमुळे निर्माण झालेल्या, बदललेल्या आणि निर्माण झालेल्या व्यत्ययासाठी सामूहिक जबाबदारीबद्दल बोलते. तथापि, सावधगिरीची जोखीम, वैज्ञानिक स्वायत्तता आणि गमावलेल्या संधी यांचे संतुलन साधत, भविष्यातील एखाद्या गोष्टीची अपेक्षा ठेवून वर्तमानात कारवाई करणे हे एक आव्हानात्मक कार्य आहे. जबाबदार नवकल्पना स्थापन करण्यासाठी एक मजबूत तांत्रिक सीमा तयार करण्याबरोबरच धोरणे, प्रक्रिया आणि संस्थांमध्ये सखोल पद्धतशीर बदल आवश्यक आहेत.
जेव्हा आपण जबाबदार नवनिर्मितीबद्दल बोलतो, तेव्हा ती विज्ञानाच्या सामाजिक जबाबदारीच्या चर्चेमध्ये रुजलेली असते. दुसऱ्या शब्दांत, ते वैज्ञानिक आणि तांत्रिक नवकल्पनांमुळे निर्माण झालेल्या, बदललेल्या आणि निर्माण झालेल्या व्यत्ययासाठी सामूहिक जबाबदारीबद्दल बोलते.
या संशोधनात असेही नमूद केले आहे की जर कृती आणि परिणाम यांच्यात अनिश्चितता कमी असेल तर जबाबदारी थेट असते. उदाहरणार्थ, भरती करताना महिला उमेदवारांशी भेदभाव करणाऱ्या अल्गोरिदमिक पक्षपातीपणाचे एक स्पष्टपणे ओळखण्यायोग्य प्रकरण आहे. त्यात सुधारणा व्हायला हवी. परंतु जेथे कृती आणि त्याचा परिणाम मोजण्यात अधिक अनिश्चितता असते, तेथे जबाबदारी निश्चित करणे हे गुंतागुंतीचे मानले जाते. उदाहरणार्थ, AI च्या माध्यमातून अभिव्यक्ती स्वातंत्र्य आणि हानिकारक मजकुरावर मर्यादा घालणे. जेव्हा प्रकरण व्यावसायिक उत्कृष्टता म्हणून गणल्या जाणाऱ्या क्षेत्रात असते तेव्हा जबाबदारीचे मुद्दे आणखी गुंतागुंतीचे होतात. येथे ते कार्यात्मक आणि वर्तणुकीशी निगडीत आवश्यकतांनुसार जबाबदार एकसारखेपणाची गरज दर्शवतात. पुढे, असे दिसून आले आहे की AIचा विकास एका परिसंस्थेत होतो ज्यामध्ये अनेक भागधारकांचा समावेश असतो. आयटी प्रणालीमध्ये जबाबदारी आणि नियंत्रण महत्वाचे असण्याचे हे देखील एक कारण आहे. परिसंस्थेतील भागधारकांच्या स्थितीवर आधारित जबाबदारी निश्चित करणे केवळ निकष आणि मूल्यांवर बाह्य अनुरूपता शोधण्यात मदत करत नाही तर संस्थेच्या क्षमतेच्या आधारे अंतर्गत न्याय्य देखील आहे. AI ऍप्लिकेशन्सच्या विकासासाठी मोठ्या मूलभूत मॉडेल्स वाढत्या प्रमाणात आधार बनत आहेत, जेथे त्यांच्या निर्मितीतील पूर्वग्रह त्यावर विकसित केलेल्या ऍप्लिकेशन्समध्ये प्रवेश करू शकतात. अशा परिस्थितीत, या तंत्रज्ञानाचे निर्माते आणि त्याचा वापर करणारे दोघेही जोखीम कमी करण्यात महत्त्वाची भूमिका बजावतात.
एक विश्वासार्ह नावीन्य म्हणून, AI ची एकरूपता प्रतिक्रियाशील नसून अधिक सक्रिय असते. म्हणजेच, AI संरेखन संभाव्य अवांछित परिणामांसाठी जबाबदारीच्या पलीकडे जाते. हे रचना आणि उत्पादनासह पुनरावृत्ती गुंतवणूकीमध्ये जबाबदारी समाविष्ट करण्याचा प्रयत्न करते. सर्वसमावेशकता आणि अपेक्षित मूल्यांशी सुसंगतता सुनिश्चित करणे. AI प्रणालींचा विकास वितरित मालकी आणि नियंत्रणासह विस्तृत संसाधने आणि भागधारकांमधील परस्परावलंबनाद्वारे होतो. अशा परिस्थितीत, या वेगवेगळ्या भागधारकांना परिसंस्थेमध्ये कसे संघटित करावे हे समजून घेणे महत्त्वाचे ठरते. ते ज्या मूल्य साखळीत योगदान देतात त्या आधारावर संबंधित जबाबदाऱ्या निश्चित करण्यात हे मदत करते. उदाहरणार्थ, AI ऍप्लिकेशन्सच्या विकासासाठी मोठ्या मूलभूत मॉडेल्स वाढत्या प्रमाणात आधार बनत आहेत, जेथे त्यांच्या निर्मितीतील पूर्वग्रह त्यावर विकसित केलेल्या ऍप्लिकेशन्समध्ये प्रवेश करू शकतात. अशा परिस्थितीत, या तंत्रज्ञानाचे निर्माते आणि त्याचा वापर करणारे दोघेही जोखीम कमी करण्यात महत्त्वाची भूमिका बजावतात. परिसंस्थेतील भागधारकांच्या स्थितीवर आधारित जबाबदारी निश्चित करणे केवळ निकष आणि मूल्यांवर बाह्य अनुरूपता शोधण्यात मदत करत नाही तर संस्थेच्या क्षमतेच्या आधारे अंतर्गत न्याय्य देखील आहे. म्हणजेच, जबाबदार AI उपक्रम त्यांची शाश्वतता सुनिश्चित करण्यासाठी परिचालन अनिवार्यतांच्या अनुरूप आहेत की नाही हे पाहिले जाते. तांत्रिक व्यवस्थापन, परिसंस्थेचा दृष्टीकोन आणि संस्थात्मक क्षमतेद्वारे जबाबदार नवकल्पनांच्या स्वरूपात AI एकसंधतेच्या त्रिपक्षीय व्यवस्थापनाच्या गरजेवर ते भर देते.
अनुलेखा नंदी या ऑब्झर्व्हर रिसर्च फाउंडेशनच्या फेलो आहेत.
The views expressed above belong to the author(s). ORF research and analyses now available on Telegram! Click here to access our curated content — blogs, longforms and interviews.
Dr. Anulekha Nandi is a Fellow in Technology, Economy, and Society at ORF. Her primary area of research includes digital innovation management and governance focusing ...
Read More +
PREV
