आरबीआयचे डेप्युटी गुव्ह राव वित्तीय संस्थांमध्ये एआय तैनात करण्याच्या जोखमींना ध्वजांकित करतात

22 डिसेंबर रोजी दिल्लीतील इंडियन इकॉनॉमिक असोसिएशनच्या 106 व्या वार्षिक परिषदेत बोलताना राजेश्वर राव म्हणाले, “यापैकी काही चिंता पूर्वाग्रह आणि मजबूतपणाच्या समस्यांसारख्या डिझाइन विशिष्ट जोखमीच्या आहेत, तर इतर अधिक पारंपारिक आणि वापरकर्ता विशिष्ट आहेत जसे की डेटा गोपनीयता, सायबरसुरक्षा, ग्राहक संरक्षण आणि आर्थिक स्थिरता जतन करणे. आरबीआयने सोमवारी आपल्या वेबसाइटवर भाषणाची प्रत अपलोड केली.

त्यांनी या जोखमींचे तीन मोठ्या गटांमध्ये वर्गीकरण केले – डेटा बायस आणि मजबूतता, प्रशासन आणि पारदर्शकता.

राव यांच्या मते, एआय हे ज्या डेटावर प्रशिक्षित केले गेले आहे तितकेच चांगले आहे आणि त्यामुळे प्रशिक्षण डेटामधील पूर्वाग्रह आणि त्रुटींचा वारसा मिळू शकतो, तर मानव हे त्यांच्या आयुष्यभराच्या एक्सपोजर आणि अनुभवातून जमा करतात. तसेच, AI मध्ये इतर जोखीम आणि भेद्यता आहेत जसे — अनियंत्रित कोड अंमलबजावणी, डेटा विषबाधा, डेटा ड्रिफ्ट, अनपेक्षित वर्तन आणि पक्षपाती अंदाज ज्याची तैनाती करताना वित्तीय संस्थांनी काळजी घेणे आवश्यक आहे.

प्रशासनाच्या आघाडीवर, AI काही नवीन आव्हाने उभी करू शकते, विशेषत: जिथे तंत्रज्ञानाचा वापर स्वायत्त निर्णय घेण्याच्या सोयीसाठी केला जातो आणि मानवी निर्णय आणि निरीक्षण मर्यादित करणे किंवा संभाव्यपणे दूर करणे अपेक्षित आहे.

प्रॉम्प्ट इंजेक्शन, मतिभ्रम आणि विषारी आउटपुट यासारख्या काही डेटा आणि मॉडेल समस्यांचा देखील विशेषत: वित्तीय संस्थांमध्ये, गव्हर्नन्स फ्रेमवर्कवर परिणाम होऊ शकतो. यामुळे नियामक आणि व्यवस्थापनाने ग्राहक संरक्षण, सायबर सुरक्षा आणि डेटा गोपनीयतेसाठी फ्रेमवर्कवर पुनर्विचार करणे आवश्यक असू शकते.

या अपघातांना तोंड देण्यासाठी एक पाऊल म्हणून, कायदे आणि नियामक मानकांवर आधारित या अनुप्रयोगांचे नियमित ऑडिट आणि मूल्यांकनांसह क्रियाकलापांवर देखरेख करणार्‍या प्रशासकीय संरचनांच्या रूपात माणसाला लूपमध्ये जोडावे लागेल.

पुढे, डेप्युटी गव्हर्नरने एआय मॉडेल्सच्या जटिल आणि अपारदर्शक स्वरूपावर प्रकाश टाकला ज्यासाठी अतिरिक्त सावधगिरीची आवश्यकता आहे ज्यामुळे व्यवसायाच्या पारदर्शकतेवर परिणाम होईल. वित्तीय संस्थांना AI मॉडेलवरून ग्राहक किंवा पर्यवेक्षकांना प्रतिकूल किंवा पक्षपाती निर्णयाचे परिणाम स्पष्ट करणे कठीण होऊ शकते.

या जोखमींवर एक सुधारात्मक उपाय म्हणून, डेप्युटी गव्हर्नरने नवकल्पना आणि तंत्रज्ञानाचा जबाबदार वापर यांच्यातील समतोल साधण्यासाठी एआय वापरणाऱ्या संस्थांद्वारे विचारात घेतलेल्या दहा क्षेत्रांची माहिती दिली. हे निष्पक्षता, पारदर्शकता, अचूकता, सातत्य, डेटा गोपनीयता, उत्तरदायित्व, स्पष्टीकरण, दृढता तसेच सतत मानवी निरीक्षणासह देखरेख आणि अद्यतने सुनिश्चित करण्यासारखे आहेत.

बँकिंग क्षेत्र उदयोन्मुख तंत्रज्ञानासह विकसित होत असताना, राव म्हणाले की एआय एक महत्त्वाची भूमिका बजावेल आणि तंत्रज्ञानाच्या फायद्यांचा उपयोग करण्यासाठी मदत करणार्‍या सहाय्यक नियामक फ्रेमवर्कचे अस्तित्व आवश्यक आहे.

“एआयचा अवलंब जसजसा वाढत आहे, तसतसे एआय ऍप्लिकेशन्सच्या वापरास मार्गदर्शन करण्यासाठी नियामक फ्रेमवर्क विकसित करण्याचे जागतिक प्रयत्न देखील वाढत आहेत आणि या प्रक्रियेत अधिक सहकार्य आवश्यक आहे. आमचा सामूहिक प्रयत्न हा उत्क्रांती सजगतेने आणि जबाबदारीच्या भावनेने स्वीकारण्याचा असला पाहिजे आणि भविष्यासाठी वचनबद्धता बाळगली पाहिजे जिथे तंत्रज्ञान मोठ्या प्रमाणावर समाजासाठी सक्षम बनते,” राव यांनी निष्कर्ष काढला.

प्रथम प्रकाशित: जानेवारी 01 2024 | रात्री ९:२५ IST