काय ? एआय चुकाही करतं? एआय पक्षपातीपणेही वागतं? ही वाक्यं एआय म्हणजे कृत्रिम बुद्धिमत्तेनं खरी करून दाखवली आहेत. त्याच्या परिणामांनाही अनेकांना सामोरं जावं लागलं आहे. जगभरात सुरू असलेल्या एआयच्या पक्षपातीपणाबद्दल.
------------------
चार वर्षापूर्वीची गोष्ट, वाहनांचे सुटे भाग करणाऱ्या डेट्रॉईट शहरातील एका कंपनीत रॉबर्ट ज्युलियन नावाची व्यक्ती काम करीत होती. एके दिवशी दुपारी रॉबर्ट यांना डेट्रॉईट पोलीस स्टेशनमधून एक फोन आला. फोनवर सांगण्यात आलं की, रॉबर्ट यांना अटक होणार असून त्यांना तत्काळ पोलीस स्टेशनमधे हजर व्हावं लागेल. सुरुवातीला रॉबर्टना वाटलं की, हा प्रँक कॉल असावा किंवा कुणीतरी त्यांची मस्करी करीत असावं. साहजिकच त्यांनी आलेल्या फोनकडे दुर्लक्ष केले. तासाभराने रॉबर्ट त्यांच्या घरी पोहोचले, तर तेथे दोन वर्दीधारी पोलीस रॉबर्ट यांची वाटच पाहत थांबले होते. रॉबर्टच्या घरासमोर, त्याची पत्नी आणि त्यांच्या दोन मुलींसमोर रॉबर्टला हातकड्या घालून पोलिसांनी अटक केली. अटकेचं कारण पोलिसांनी सांगितलं नाही, पण एक कागद त्यांनी दाखवला. चोरीच्या गंभीर गुन्ह्याखाली रॉबर्ट यांना अटक करण्यासाठीचं ते वॉरंट होतं. रॉबर्ट यांना अटक करून पोलीस डीटेंशन सेंटरला घेऊन गेले. तेथे त्यांच्या बोटांचे ठसे, डीएनए सैंपल्स वगैरे घेण्यात आले आणि एक रात्र त्यांना तिथेच ठेवलं गेलं. दुसऱ्या दिवशी दोन पोलीस अधिकारी रॉबर्ट यांना इंटरॅक्शन रूममधे घेऊन गेले. तेथे त्यांनी रॉबर्ट यांची चौकशी सुरू केली.
तुम्ही शिनोला स्टोअरला शेवटची भेट कधी दिली होती, पोलिसांनी विचारलं. शिनोला स्टोअर म्हणजे डेट्रॉईटच्या शेजारीच असलेल्या एका अत्यंत श्रीमंत आणि उच्चभ्रू भागात किमती घड्याळे सायकल आणि चामड्याच्या वस्तू विकणारं एक चकचकीत दुकान. २०१४ साली हे दुकान सुरू झालं तेव्हा रॉबर्ट आणि त्यांच्या पत्नीने या स्टोअरला एकदा भेट दिली होती. रॉबर्ट यांनी पोलिसांना हे खरं खरं सांगितलं. पोलिसांनी रॉबर्टसमोर एक कागद ठेवला. त्या कागदावर सीसीटीवी कॅमेराने शूट झालेल्या एका व्हिडिओचा स्क्रीनशॉट होता. त्या फोटोत काळ्या कपड्यातला एक जाड माणूस शिनोला स्टोअरमधे ३८०० डॉलर्स किमतीच्या एका घड्याळासमोर उभा होता. हे तुम्हीच आहात का? पोलिसांनी विचारलं. फोटो थोडा ब्लर होता, तरी रॉबर्टनी तो पाहून सांगितलं की, हा माणूस मी नाही. अटकेनंतर ३० तासांनी रॉबर्ट विल्यम यांना जामीन मिळाला आणि न्यायालयात पुढील सुनावणी होईपर्यंत त्यांना सोडण्यात आलं. पुढे सुनावणीच्या वेळी सरकारी वकिलांनी रॉबर्टच्या विरोधात पुरावे नसल्याचं सांगून त्यांना आरोपातून मुक्त केलं.
आता या खऱ्याखुऱ्या घटनेटला अत्यंत महत्त्वाचा मुद्दा म्हणजे रॉबर्ट यांना आलेला फोन हा एखाद्या व्यक्तीने केलेला नव्हता, तर तो एआयने केलेला होता. गुन्ह्याचा तपास करण्यासाठी जे एआय वापरलं जातं त्याने उपलब्ध डेटाबेसमधून माहिती मिळविली आणि तिचा वापर करून रॉबर्ट विल्यम यांनी चोरी केली असल्याचं निश्चित केलं आणि त्यांना पोलीस स्टेशनला हजर राहण्यासाठी फोनही केला. रॉबर्ट यांनी त्या फोनकडे दुर्लक्ष केल्यामुळे एआयने शोधून काढलेल्या या गुन्हेगाराला अटक करण्यासाठी प्रत्यक्ष पोलीस त्यांच्या घरी पोहोचले आणि त्यांना अटक केली. परंतु पुढे पुरेसे पुरावे नसल्यामुळे रॉबर्ट यांच्यावरील आरोप मागे घेण्यात आले. असं का झालं? रॉबर्ट यांना कोणताही गुन्हा केलेला नसताना त्यांना ३० तास अटकेत का राहावं लागलं? त्याचं कारण म्हणजे रॉबर्ट विल्यम हे कृष्णवर्णीय आहेत !
गेल्या २० वर्षांपासून अमेरिकेत गुन्हेगारांना शोधण्यासाठी एआय आणि फेशियल रेकग्निशन सिस्टीम यांचा एकत्रित वापर केला जातो. वरील घटनेत रॉबर्ट यांच्यापर्यंत ते एआय कसं पोहोचलं हे समजून घेण्याचा आपण प्रयत्न करू, मशीन लर्निंग हा शब्द आपण एआयच्या बाबतीत अनेकदा ऐकला असेल. जसं माणूस शिकतो तसंच कॉम्प्युटरला शिकवायचं, म्हणजेच मशीन लर्निंग. या प्रक्रियेत साधारणतः एखाद्या यंत्राला खूप सारी माहिती दिली जाते. त्या माहितीत ठरावीक अशा संरचना (Patterns) असतात ज्याचा वापर करून पुढे काय करावे किंवा काय होऊ शकते, याचा अंदाज त्या यंत्राला वर्तवता येतो. लर्निंग म्हणजे शिकणे, हे दुसरे तिसरे काही नसून आतापर्यंत जे काही अनुभवले आहे त्याचा वापर करून शिकणे आणि शिकलेल्या माहितीचा वापर करून योग्य निर्णय घेणे होय. उदाहरणार्थ, एखाद्या लहान बाळाला हसणं काय असतं हे आपण कसं शिकवू? त्याला अनेक वेळा आपण हसून दाखवू, दात काढून दाखवू आणि त्याला वारंवार सांगू की, याला हसणं म्हणतात. मग तो हसताना बदलणारा चेहरा लहान मूल लक्षात ठेवेल आणि नंतर कुणीही हसलं तर तो जे शिकलाय त्यानुसार सांगेल की, समोरचा हसतोय की नाही! जर त्याने हे बरोबर सांगितलं तर आपण म्हणू, 'तो शिकलाय!' थोडक्यात, मशीन लर्निंगमधे संगणकाला, यंत्राला बरीच माहिती दिली जाते आणि त्या माहितीच्या आधारावर त्यात अनेक निकष काढणारे अल्गोरिदम बनविलेले असतात. हे अल्गोरिदम माहिती प्रोसेस करतात, त्यात मूलभूत अशा संरचना शोधतात आणि त्यावरून निर्णय घेतात.
आपण वर ज्या रॉबर्ट विल्यम यांच्या प्रकरणाबद्दल बोलतोय त्यात त्यांच्या कृष्णवर्णीय असण्याचा आणि पोलीस वापरत असलेल्या एआयने त्यांना गुन्हेगार म्हणून पकडण्याचा काय संबंध? तर इथे मुद्दा येतो त्या एआयच्या मागे काम करीत असलेल्या अल्गोरिदमचा आणि जी माहिती, म्हणजेच डेटा प्रोसेस करून ते अल्गोरिदम तयार झालं त्या डेटाचा. तो डेटा किंवा ती माहिती कशा पद्धतीची होती? तर अमेरिकन समाजात कृष्णवर्णीय लोकांशी जो भेदभाव पूर्वापार केला जातो, त्यांच्याबद्दल जे बोललं जातं तीच माहिती मशीनला दिली गेली आणि त्यावरून अल्गोरिदम तयार झालं. अमेरिकेला कृष्णवर्णीय विरुद्ध गौरवर्णीय संघर्षाचा मोठा इतिहास आहे. वर्षांनुवर्षे कृष्णवर्णीय समाजाने अनेक अन्याय, अत्याचार भोगले आणि आजही अमेरिकेतील गोऱ्यांचा काळ्या लोकांकडे पाहण्याचा दृष्टिकोन पूर्णतः बदललेला नाही. तो तेथील लोकांच्या मानसिकतेत खोलवर झिरपलेला आहे आणि त्यामुळेच तो आजही सर्वत्र दिसतो. गेल्या वर्षीच एका गौरवर्णीय पोलीस अधिकाऱ्याने जॉर्ज फ्लॉयड नावाच्या कृष्णवर्णीय व्यक्तीची हत्या केल्याचं प्रकरण गाजलं. कृष्णवर्णीय लोकांवर असे अत्याचार होणं अमेरिकेत अपवाद नाही. म्हणजेच त्या समाजात वेगवेगळ्या माध्यमांवर ज्या चर्चा होतात, ज्या प्रकारे कृष्णवर्णियांना वागवलं जातं, तोच डेटा मशीनला प्रोसेस करण्यासाठी मिळाला. याचाच अर्थ अमेरिकन समाज कृष्णवर्णीयांबद्दल जो विचार करतो, तसाच विचार ते अल्गोरिदम करणार आहे आणि त्यावरूनच निर्णय घेणार आहे. रॉबर्ट विल्यम यांच्या घटनेत झालं असं की, पोलीस गुन्हेगार पकडण्यासाठी जी फेस रेकग्निशनची प्रणाली वापरतात, त्यामागे काम करीत असलेल्या एआयला कृष्णवर्णीय माणूस गुन्हेगार वाटण्याची शक्यता खूपच जास्त आहे, कारण कृष्णवर्णीय लोक गुन्हेगार असतात, ते चोऱ्या करतात, खून करतात हे त्या एआयने मशीन लर्निंगच्या माध्यमातून शिकून घेतलं आहे. त्यामुळे कॅमेऱ्याने घेतलेल्या फुटेजमधे जो फोटो दिसला त्यावरून आणि गुन्ह्याचे जे वर्णन पोलिसांनी त्या यंत्रणेला पुरविले त्यावरून एआयने त्याच्या डेटाबेसमधे असलेल्या शेकडो गौरवर्णीय आणि कृष्णवर्णीय लोकांमधून बरोब्बर डेट्रॉईटमधे गुन्हा झालेल्या ठिकाणच्या जवळपास राहणाऱ्या कृष्णवर्णीय माणसाला गुन्हेगार घोषित केलं. पण शेवटी पूर्ण तपासानंतर असं लक्षात आलं की, खरंतर रॉबर्ट यांनी गुन्हा केलेलाच नाही. हे ज्यामुळे झालं त्याला म्हणतात एआयचा 'बायस', आपल्या सामान्य माणसाच्या भाषेत सांगायचं झालं तर पक्षपात !
आज एआय तंत्रज्ञान आपल्या रोजच्या जगण्याचा भाग झालेलं आहे. आपण गुगल सर्च करतो, युट्यूब पाहतो, सोशल मीडिया वापरतो, एखादी झूम मीटिंग करतो, ऑनलाईन काहीतरी खरेदी करतो त्या प्रत्येक गोष्टीत आपण एआयचा वापर करतो. त्यामुळे एआय आता आपल्या रोजच्या वापरात सर्रास येऊ लागलं आहे. अर्थात त्याचे कित्येक फायदे आहेत. मानवी मर्यादांच्या पलीकडे असलेला किचकट कामे करण्याचा वेग एआयकडे आहे. चॅटजीपीटीसारख्या कमी काळातच लोकप्रिय झालेल्या एआय टूलने तर आपली अनेक कामे कल्पनेच्या पलीकडे सोपी करून ठेवली आहेत. मेल लिहिणे, कविता लिहिणे, चित्र काढणे, व्हिडिओ बनविणे अशा अनेक कलात्मक कामातही एआय आता अत्यंत प्रभावीपणे काम करू लागलं आहे, परंतु एआय काम करीत असताना सुरू आलेल्या सगळ्या गुंतागुंतीच्या प्रक्रियेत डेटा हा जो अत्यंत महत्त्वाचा घटक असतो, तोच अनेकदा सदोष आणि पक्षपाती असल्यामुळे एआयने घेतलेले निर्णय, त्यातून मिळालेली उत्तरेही पक्षपाती असल्याचं दिसून येतंय. त्यामुळे जिथे जिथे एआयचा वापर होतोय, त्या प्रत्येक ठिकाणी बायस अस्तित्वात आहे. या बायसमुळे अनेक चुकीचे, सदोष परिणाम एआयकडून मिळतात.
माणूस हा कळप करून राहणारा प्राणी आहे असं आपण म्हणतो. समूहभावना ही मानवी उत्क्रांतीच्या सुरुवातीच्या टप्प्यावर आपल्यात आली, ती आजतागायत तशीच आहे, फक्त आता समूहांचं स्वरूप बदललं. फार पूर्वी माणूस टोळीत राहायचा. अशा अनेक टोळ्यांचा बनलेला मानवी समूह, त्यात काही टोळ्यांमधे अत्यंत पराकोटीची भांडणे, त्यातून रक्तपात वगैरे गोष्टी घडायच्या. हळूहळू उत्क्रांती पुढे सरकत गेली तसं टोळ्यांची सदस्यसंख्या वाढली. त्यातून पुढे अनेक टोळ्यांचं मिळून एक वस्ती, एक गाव असा आपल्या सहजीवनाचा विकास होत गेला. आधुनिक राज्यव्यवस्था अस्तित्वात आली तेव्हा राज्य, देश या संकल्पनाही आल्या. त्यांनी वेगवेगळे समूह तयार केले. वरवर दिसणारे, माणसाच्या सोयीसाठी तयार झालेले देश, राज्य हे समूह तर अस्तित्वात आहेतच, पण त्यापलीकडे जाऊन मानव समाजाची विभागणी अत्यंत गुंतागुंतीच्या आणि जटिल समूहांमधे झालेली आहे. कमालीची विविधता असलेल्या आपल्या देशाचं उदाहरण घ्या... विविधतेमुळे इथे विभाजन होण्यासाठी शेकडो घटक अस्तित्वात आहेत आणि त्यामुळेच त्या प्रत्येक घटकावर आधारित वेगळी ओळख, वेगळी आयडेंटिटी असणारे कित्येक समूह आपल्या एकच देशात आहेत. धर्माचे समूह, जातींचे समूह, त्यात पोटजाती, वर्गांचे समूह त्यातही मध्यम वर्ग, त्यात उच्च मध्यम वर्ग आणि कनिष्ठ मध्यम वर्ग अशी विभागणी, एखाद्या विचारांना मानणाऱ्या लोकांचा समूह, भारतातून परदेशांत राहायला गेलेल्या लोकांचा समूह, असे कित्येक वेगवेगळी ओळख असलेले समूह भारतात आहे. एकाच वेळी अनेक समूहांचा भाग असलेले लोकही आहेत. म्हणजे समूह हा आपल्या समाजाच्या संरचनेचा अविभाज्य भाग आहे. म्हणून समूहभावनेला माणसाच्या जीवनात अत्यंत महत्त्वाचं स्थान आहे. जिथे ही समूहभावना येते, तिथे आपण आपली ओळख आपल्या समूहभावनेशी जोडलेली असते आणि त्यातून साहजिकच आपल्या समूहाबद्दल प्रेम आणि इतर समूहांपासून तुटलेपणा, जिथे आपल्या समूहाचे हितसंबंध गुंतलेले असतील तिथे त्यांचा द्वेष, तिरस्कार या भावना येऊ लागल्या.
त्यातूनच पुढे झुंडींनी आकार घेतला. झुंड म्हणजे काय, तर चार-सहा माणसांचा गट, शे-दोनशे लोकांचा जमाव आणि काही लाख लोकांचा समूह हे सर्व झुंडीमधे येऊ शकतात. या झुंडी वेगवेगळ्या कारणाने आकार घेतात. जात, धर्म, प्रांत, भाषा, लिंग, प्रदेश, वर्ग, देव, देश, वंश, विचारधारा, पक्ष, पंथ आणि अस्मिता जागी करता येईल अशा कोणत्याही कारणाने झुंडी आकार घेऊ शकतात. म्हणजे राजकीय, सामाजिक, सांस्कृतिक, आर्थिक अशा विविध प्रकारांत त्यांची वर्गवारी करता येईल. कधी त्या स्थानिक पातळीवर असतील, कधी राष्ट्रीय तर कधी आंतरराष्ट्रीय स्तरावरील. या झुंडी कधी काही मागणी करण्यासाठी असतील, कधी एखादा निर्णय रद्द करण्यासाठी असतील, कधी निषेधासाठी तर कधी सरकारे पाडण्यासाठी. या झुंडी कधी विद्ध्वंसक कृत्ये घडवून आणतील; तर कधी ती कृत्ये रोखण्यासाठी उपयुक्त ठरतील.
वर्षांनुवर्षे चालणाऱ्या दीर्घकालीन प्रक्रियेतून त्या उदयाला येऊ शकतील किंवा तत्कालीन कारणही त्यासाठी पुरेल. या झुंडी कधी नेत्याशिवाय आकाराला येतात; तर कधी नेते झुंडीला आकार देतात. अनेक झुंडींमधे वर्चस्ववादी जीवघेणी स्पर्धा तयार होते. वर्चस्ववादी समूहांनी आपलं वर्चस्व अबाधित राखण्यासाठी खालच्या स्तरातील समूहांवर भयानक अत्याचार, अन्याय केल्याच्या घटना तर मानवी इतिहासात पानापानावर सापडतात. जगातील कोणताही देश याला अपवाद नाही. त्यामुळे समूह, समूहभावना इतर समूहांशी वैर - त्या समूहांना हटविण्यासाठी युद्ध रक्तपात हे चक्र माणसाच्या आजवरच्या इतिहासात स्पष्टपणे दिसून येतं. उत्क्रांतीच्या ज्या टप्प्यावर माणसाची बोधात्मक क्रांती सुरू झाली तेव्हापासून आजपर्यंतची वाटचाल आपण कळपात राहून केलेली आहे. समूह आपल्या जगण्यावर सकारात्मक प्रभाव टाकण्यातही यशस्वी झाले, परंतु आजवरचा इतिहास पाहता समूहांमुळे जे काही नकारात्मक झालं, त्याचा खूप मोठा प्रभाव मानवी जीवनावर आहे. त्यामुळे आपली विचार करण्याची पद्धत, निर्णयक्षमता, आपल्या कला, साहित्य, आपलं भांडवली मार्केट, आपले आंतरराष्ट्रीय संबंध या सगळ्यात समूहभावनेने आणि त्यातून येणाऱ्या पक्षपाताने व्यापून टाकलेलं आहे. म्हणजेच पक्षपात हा आपल्या जीवनाचा भाग आहे. तो मानवी स्वभावात इतका खोलवर भिनलेला आहे की, काहीवेळा आपण पक्षपात करतोय हे आपल्या लक्षातही येत नाही.
अमेझॉन या जगप्रसिद्ध ई कॉमर्स कंपनीच्या भरती प्रक्रियेत एआयचा वापर केला जाऊ लागला. कंपनीकडे आलेल्या ॲप्लिकेशन्स आणि त्यांचे रेझ्युमे तपासणे, त्यातून त्या त्या नोकरीसाठी योग्य असलेल्या लोकांचे रेझ्यूमे वेगळे काढणे हे काम कंपनी एआयकडून करून घेणार होती. या कामात अमेझॉन कंपनीत सुरुवातीपासून मुलाखतीसाठी आलेल्या, त्यातून नोकरी मिळालेल्या-न मिळालेल्या लोकांचा डेटासेट एआयला देण्यात आला होता. या एआयने निर्णय दिले त्यातून असं दिसून आलं की, या कामासाठी वापरलं जाणारं एआय हे महिलांच्या विरोधात पक्षपाती आहे. त्याचं कारण म्हणजे अमेझॉनमधे नोकरी करणाऱ्या लोकांच्या एकूण संख्येत महिलांचं प्रमाण अत्यंत कमी होतं.
कृत्रिम बुद्धिमत्ता हा माणसानेच लावलेला शोध. कंप्युटरला मोठ्या प्रमाणावर डेटा पुरविला की त्यातून तो शिकत जातो आणि त्याची बुद्धिमत्ता विकसित होते, मग हा विकसित झालेला कंप्युटर त्याने अवलोकन केलेल्या डेटावरून पुढे भविष्याचे अंदाज बांधू शकतो, निर्णय घेऊ शकतो, गुंतागुंतीच्या कामात माणसाला मदत करू शकतो, त्याला आपण म्हणतो एआय. अर्थात, ज्या प्रकारचा डेटा आपण त्या मशीनला पुरवितो त्याचा वापर करून ते मशीन शिकत जातं. हा डेटा, ही माहितीच पक्षपाती असेल, तर त्या एआयच्या निर्णयात पक्षपात असणार, बायस असणार हे ओघानेच आलं. त्यामुळे पक्षपात ही माणसाची अंगभूत मर्यादा आणि त्यातून तयार होणाऱ्या एआयमधे तो पक्षपात येणं ही अपरिहार्यता आहे. एआयमधे येणारा हा बायस कमीत कमी असावा म्हणून त्याला पुरविल्या जाणाऱ्या डेटावर प्रक्रिया करून त्यातला बायस कमी करण्याचेही प्रयत्न सुरू असतात, परंतु अजून त्या प्रयत्नांना यश आलेलं नाही. वेगवेगळ्या कारणांमुळे तयार होणाऱ्या बायसचे अभ्यासकांनी काही प्रकार सांगितले आहेत. त्यातला मोठ्या प्रमाणात आढळून येणारा बायस म्हणजे सँपल बायस. एखाद्या मोठ्या समूहाचे प्रतिनिधित्व करण्यासाठी त्या समूहाच्या एका छोट्या भागाची माहिती वापरली जाते. परंतु त्या समूहातील वेगवेगळे घटक, त्यांच्यातील विविधता यांचे पुरेसे प्रतिनिधित्व वापरलेल्या माहितीमधे नसते. अशा वेळी आपण जी माहिती मशीनला ट्रेन करण्यासाठी वापरतो त्या डेटासेटमधे समूहातील सगळ्या घटकांचं प्रतिनिधित्व नसतं. अशा वेळी त्या एआयमधून मिळालेले रिझल्ट हे त्या डेटासेटमधे पुरेसं प्रतिनिधित्व नसलेल्या घटकांच्यासाठी बायस आणि अन्याय्य असू शकतात. यालाच सैंपल बायस असं म्हणतात. दुसरा प्रकार म्हणजे, अल्गोरिदमिक बायस. एखाद्या मशीनला ट्रेन करताना जो डेटा वापरला जातो, त्यात काही पूर्वग्रह असतात. ते पूर्वग्रह मशीन शिकतं आणि त्या एआयचा वापर करताना त्यातून रिझल्ट आल्यानंतर त्यातही ते पूर्वग्रह दिसतात. रॉबर्ट विल्यम यांच्या केसमधे जो बायस होता तो हाच! कृष्णवर्णीय माणसानेच चोरी केलेली असल्याची शक्यता गृहीत धरून त्यावरून एआय रॉबर्ट यांच्यापर्यंत पोहोचलं. यालाच अल्गोरिदमिक बायस म्हणतात. तिसरा प्रकार म्हणजे, कन्फर्मेशन बायस. एखादा तंत्रज्ञ जेव्हा विशिष्ट उद्देशाने एआय मॉडल विकसित करतो तेव्हा त्या तंत्रज्ञाचे व्यक्ती म्हणून काही बायसेस असतात. एआयकडून त्याला कोणते रिझल्ट अपेक्षित आहेत याचा विचार करून तो तंत्रज्ञ ते मॉडेल डेव्हलप करतो. त्याचे बायसेस हे व्यक्तिसापेक्ष असतात, म्हणून ते मॉडेल विकसित करणारा तंत्रज्ञ ज्या बाजूने झुकलेला आहे त्या बाजूने बायस्ड असणारे परिणाम ते एआय मॉडेल देतं. वेगवेगळ्या कारणांनी तयार होणाऱ्या बायसचे अनेक प्रकार आहेत, त्यापैकी हे दोन तीन महत्त्वाचे बायस. हे बायस कसे असू शकतात आणि त्यांचे परिणाम काय होऊ शकतात, हे पाहिले तर त्याचं गांभीर्य लक्षात येईल. सुरुवातीला आपण रॉबर्ट विल्यम या व्यक्तीचं हे उदाहरण पाहिलं, तशा कित्येक घटना एआयमधे येणाऱ्या बायसमुळे घडलेल्या आहेत. त्यातली काही उदाहरणं पाहू.
अमेरिकेच्या आरोग्य विभागाने २०१९ साली एक सर्व्हे केला. कोणत्या लोकांना भविष्यात जास्त वैद्यकीय मदतीची गरज भासू शकते, हे शोधण्यासाठी हा सर्व्हे होता. २० कोटी लोकांच्या उपलब्ध माहितीवर अल्गोरिदम वापरून त्यातून सर्व्हेचे निष्कर्ष मागविले गेले. या सर्व्हेमधून आलेल्या निष्कर्षाचा अभ्यास केल्यानंतर शास्त्रज्ञांना असं दिसून आलं की अल्गोरिदमने सर्व्हे करताना आणि त्याचा निकाल देताना गौरवर्णीय लोकांना जास्त वैद्यकीय मदतीची गरज असल्याचं सांगितलं आहे. त्याचं कारण म्हणजे एखाद्या व्यक्तीने आजपर्यंत वैद्यकीय सुविधांवर केलेला खर्च किती आहे, यावरून त्या अल्गोरिदम त्या व्यक्तीला भविष्यात किती प्रमाणात वैद्यकीय सुविधांची गरज पडेल याचा अंदाज बांधला होता. साहजिकच अमेरिकेत कृष्णवर्णीय लोकांना उपलब्ध असलेल्या वैद्यकीय सुविधा आणि त्या विकत घेण्याची क्षमता ही गौरवर्णीयापेक्षा कमी आहे. त्यामुळे सारख्याच आजारांमधे गौरवर्णीय जास्त वैद्यकीय सुविधा विकत घेतात तर त्या तुलनेत कृष्णवर्णीय लोक कमी वैद्यकीय सुविधांचा लाभ घेतात. या डेटामुळे जो बायस तयार झाला त्यातून अंदाज बांधताना एआयने दिलेला निष्कर्षही बायस्ड होता. सध्या युरोप आणि अमेरिकेत ज्या देशांमधे प्रगत एआय उपलब्ध आहे तिथे सार्वजनिक आरोग्य, प्रशासन, शिक्षण, कम्युनिकेशन, कायदा व सुव्यवस्था, खाजगी कंपन्यांचे हायरिंग अशा अनेक कामांसाठी एआयचा वापर केला जातो. भारतातही अनेक क्षेत्रांमधे असा वापर सुरू झाला आहे. येणाऱ्या काळात एआयच्या कक्षा इतक्या विस्तारत जातील की आपल्या रोजच्या सामाजिक जीवनात पावलोपावली एआय आपल्याला भेटेल, भारतासारख्या अतिप्रचंड विविधता असलेल्या देशात सार्वजनिक क्षेत्रात सरकारकडून एआयचा वापर होऊ लागला तर त्याचे बरेवाईट परिणाम काय असतील, यावरही चर्चा आणि अभ्यास सुरू आहे.
अनेक भाषा, संस्कृती, धर्म आणि असंख्य प्रकारच्या आयडेंटिटी एकाच ठिकाणी नांदत असलेल्या भारतासारख्या देशात प्रत्येक भागात जगण्याचे संदर्भ बदलत जातात. प्रत्येक ठिकाणी पक्षपातीपणाचा आणि निष्पक्ष असण्याचा अर्थही वेगळा असतो. त्या त्या प्रदेशातील सामाजिक, आर्थिक परिस्थिती वेगळी असते. त्या समाजाची संरचना वेगळी असते. अगदी महाराष्ट्रासारख्या राज्यात आपण पश्चिम महाराष्ट्र आणि मराठवाडा या दोन प्रांताचं उदाहरण घेतलं तर पश्चिम महाराष्ट्रातील शेतकऱ्याला एआयकडून जी माहिती किवा रिझल्ट मिळेल तो मराठवाड्यातील शेतकऱ्यासाठी योग्य असेलच असे नाही. कारण या दोन भागांमधे वातावरण, शेतजमिनीचा पोत, पावसाचे प्रमाण, तिथलं स्थानिक शेतीचं मार्केट या सर्व गोष्टी भिन्न आहेत. या भिन्नतेचा विचार एआय मॉडेल विकसित करताना झालेला नसेल तर ते एआय दोन्ही ठिकाणी त्या त्या परिस्थितीनुसार निर्णय देण्यास असमर्थ ठरेल, यात शंका नाही. पाश्चिमात्य विचारसरणीच्या प्रभावाखाली विकसित झालेल्या अशा अल्गोरिदम आणि एआय मॉडल्सचा सगळ्यात मोठा दोष म्हणजे, त्याला पुरविल्या जाणाऱ्या डेटामधे भौगोलिक विविधतेचा मोठा अभाव असतो.
गुगलच्या संशोधकांनी भारतात वापरल्या जाणाऱ्या एआयच्या अल्गोरिदमचा अभ्यास केला. त्या अभ्यासात आपण वापरत असलेल्या अल्गोरिदमच्या निष्पक्षतेवर प्रश्नचिन्ह उपस्थित करण्यात आलंय. एआयचा गाभा असलेलं तंत्रज्ञान हेच मुळात पश्चिमेकडील देशात विकसित झालेलं आहे. त्याचा विकास हा पश्चिमेकडील देशांच्या, तेथील समाजाच्या गरजांना पूरक ठरेल अशा पद्धतीने झालेला आहे. ते तंत्रज्ञान जेव्हा भारतात वापरलं जातं तेव्हा आपल्या वापराच्या दृष्टीने डेटा गोळा करून त्याचं अवलोकन पुरेशा अचूकतेने होत नाही. त्यामुळे भारतीय परिस्थितीसाठी अर्धवट विकसित झालेल्या या एआयने दिलेला रिझल्ट पक्षपाती असतो. या पक्षपताचा परिणाम भारतात वेगवेगळ्या समूहांसाठी अन्यायकारक असू शकतो. भारतात आजही इंटरनेट न वापरणाऱ्या लोकांची संख्या खूप मोठी आहे. ज्या लोकांपर्यंत इंटरनेट पोहोचलं आणि ज्यांना इंटरनेट परवडेल अशा लोकांना वगळून इतरांना अजूनही इंटरनेट ॲक्सेस नाही. त्यामुळे डिजिटल फुटप्रिंट फक्त त्यांचीच तयार होते जे इंटरनेटचा वापर करतात. अर्थात, यात समाजातील खालच्या स्तरातील, मागास आणि आदिवासी समूहांना वगळले जातं. एआयला ट्रेन करण्यासाठी जो डेटा वापरला जातो त्यात या समूहांचं प्रतिनिधित्व अत्यंत कमी, काहीवेळा तर शून्य असतं, परंतु अशा डेटामधून तयार झालेल्या एआयचे रिझल्ट मात्र प्रत्येकाला लागू होतात. त्यातून जास्त प्रतिनिधित्व मिळालेल्या समूहाच्या बाजूने पक्षपाती असणारा निर्णय एआय देऊ लागतं. याचं एक उदाहरण म्हणजे, दिल्लीत निर्भया बलात्कार प्रकरण गाजल्यानंतर महिलांच्या सुरक्षेसाठी मदत करणारे सिटिझनकॉप, सेफ्टीपिन असे अनेक ॲप्लिकेशन्स आले. या ॲप्लिकेशन्समधे शहराचा एखादा भाग महिलांसाठी असुरक्षित आहे असं वाटत असेल तर तो असुरक्षित म्हणून मार्क करण्याची सुविधा होती. ॲप्लिकेशन्स वापरणाऱ्या महिलांना त्या मार्क केलेल्या भागात गेल्यानंतर खबरदारी घेण्यासाठीचं नोटिफिकेशन पाठवलं जायचं, त्यातून महिलांना संभाव्य धोक्याची आगाऊ सूचना मिळेल अशी त्या ॲप्सची संकल्पना होती. यात झालं असं की, झोपडपट्टीचा भाग, दलित आणि मुस्लीम समुदायाची वस्ती असलेला भाग महिलांसाठी असुरक्षित म्हणून मार्क करण्याचं प्रमाण खूप जास्त होतं. याचं एक कारण म्हणजे हे ॲप वापरणारे (येथे लेखकाला तयार करणारे असे म्हणायचे असेल) बहुसंख्य लोक हे मध्यम आणि उच्चवर्गीय पुरुष होते. त्यांच्या मनात वर्षांनुवर्षे असलेल्या पूर्वग्रहांचं प्रतिबिब त्या ॲपप्लिकेशन्सने दिलेल्या परिणामांमधे दिसून आलं.
ही सर्व उदाहरणे पाहता भारतात कोणकोणत्या क्षेत्रांमधे एआयमधील बायस अन्यायकारक ठरू शकतो, याची चाचपणी सरकारच्या पातळीवर सुरू आहे. परंतु यातून एक गोष्ट मात्र लक्षात घेण्यासारखी आहे ती म्हणजे एआयला ट्रेन करण्यासाठी वापरला जाणारा डेटा, तो पुरविणारी माणसेच जर पक्षपाती असतील तर तो एआय निष्पक्ष असू शकत नाही. म्हणूनच एआयचा बायस कमी करण्यासाठी अभ्यासक सुचवितात तो उपाय म्हणजे मशीनला डेटा फीड करताना तो पूर्णपणे तपासून, त्यात संपूर्ण लोकसंख्येला पुरेसं प्रतिनिधित्व मिळतंय की नाही याची खात्री करून डेटा पुरवायला हवा.
एआय बायस कमी करण्यासाठी तंत्रज्ञांनी आणखी एक उपाय शोधून काढलाय, तो म्हणजे 'एक्सप्लेनेबल एआय' या विषयात पीएचडी करणाऱ्या डॉ. साहिल देव यांनी हे एक्सप्लेनेबल एआय म्हणजे नक्की काय, याबद्दल माहिती दिली, ते म्हणतात, अशी कल्पना करा की 'एआय' हे एखादं मशीन आहे. त्याच्या आत कोणते पार्ट आहेत, ते मशीन काम कसं करतं हे आपल्याला माहीत नाही. परंतु त्या मशीनचा अभ्यास करताना विद्यार्थी ते मशीन उघडतात. त्यात काय आहे, ते पाहतात आणि त्यावरून ते मशीन कसं काम करतं हे समजून घेतात, त्याचप्रमाणे एखादं एआय कसं काम करतं हे जाणून घेण्याची सोय आता आपल्याला उपलब्ध करून देण्यात येणार आहे. म्हणजे आपण युट्युबवर एखादा व्हिडिओ बघत असतो आणि तो संपला की आपल्याला पुढचा व्हिडिओ दाखविला जातो. आता 'तो पुढचा व्हिडिओ मला का दाखवला?' असा प्रश्न तुम्हाला युट्यूबला विचारता यायला हवा. असा प्रश्न विचारला तर युट्यूब काही ठरावीक उत्तरं देतं. तुमचं वय, लिंग आणि याआधी तुम्ही युट्यूबवर काय पाहिलं आहे त्याची हिस्ट्री, यावरून तुम्हाला कोणते व्हिडिओ सजेस्ट करायचे हे युट्यूब अल्गोरिदम ठरवित असतं. सध्या तुम्हाला या अल्गोरिदममधे कोणतेही बदल करता येत नाहीत. यापुढच्या टप्प्यात तुम्ही युट्यूबला सांगू शकाल की तुम्हाला कोणते व्हिडिओ दाखवायचे हे ठरवताना तुमचं लिंग विचारात घेतलं जाऊ नये किंवा असंही सांगता येईल की, तुमची युट्यूबची हिस्ट्री इन्व्हर्ट करण्यात यावी. म्हणजे तुम्ही आजवर जे पाहिलं नाही, त्याच्या आधारे तुम्हाला व्हिडिओ सजेस्ट करण्यात यावेत. याचाच अर्थ तुम्ही आजवर जे पाहिलं आहे त्याचा बायस तुमच्या ब्राउझिंग फीडमधे दिसणार नाही. यावर सध्या युट्यूब काम करतं आहे. येत्या काही दिवसांत ही सुविधा आपल्याला उपलब्ध करून देण्यात येईल.
थोडक्यात, युट्यूब तुम्हाला एखादा व्हिडिओ सजेस्ट करताना जी निर्णयप्रक्रिया राबवतं, ती समजून घेण्याची आणि इच्छा असल्यास त्या प्रक्रियेत हस्तक्षेप करण्याची क्षमता आता आपल्याला उपलब्ध होणार आहे. त्याच्याही पुढचं पाऊल असेल, की ज्यात युट्यूब आपल्याला चार वेगवेगळ्या अल्गोरिदमचा पर्याय उपलब्ध करून देईल आणि त्यातील कोणत्या अल्गोरिदमनुसार आपल्याला व्हिडिओ सजेस्ट करण्यात यावेत, हे ठरविण्याचं स्वातंत्र्यही आपल्याला देण्यात येईल. त्यानुसार आपल्याला व्हिडिओ सजेस्ट केले जातील. अशी वापरकर्त्याच्या गरजेनुसार अल्गोरिदममधे बदल करण्याची सोय जर दिली जाऊ लागली, तर ते एआय नक्की कसं काम करतं, याचा उलगडा आपल्याला होत जाईल आणि महत्त्वाचं म्हणजे ते एआय बायस आहे की नाही, किती प्रमाणात बायस आहे याचाही अंदाज आपल्याला येऊ शकेल. एआय बायसचे धोके पाहून समाजात अविश्वासाची भावना वाढीस लागणं साहजिकच आहे. पण म्हणून 'लुडाईट' बनत एआयवर कॅन्सल कल्चरची तलवार चालविणं योग्य नाही. समाजात काही घटक असेही असतात, ज्यांना तंत्रज्ञानाचा, तांत्रिक प्रगतीचा विशेष तिटकारा असतो. अशांना इंग्रजीत लुडाईट म्हणलं जातं. एकोणिसाव्या शतकाच्या सुरुवातीला ज्या इंग्रज गिरणीकामगारांनी यंत्रांचा विरोध केला, त्यांच्यासाठी हा शब्द वापरला गेला होता. अशा लुडाईट्सच्या नादी लागणं व्यर्थ आहे. तंत्रज्ञानाच्या वेगाला आपण नियंत्रित करू शकत नाही, पण एक समाज म्हणून त्याला आपण योग्य दिशेला मात्र नक्कीच वळवू शकतो. त्यासाठी सरकार आणि वेगवेगळ्या नियामक संस्थांचा आधार घेतला जाऊ शकतो. एआयमधील दोषांची सतत उजळणी करीत त्याबद्दल नकारात्मक सूर लावण्याऐवजी आपल्याला नक्की कसं एआय हवं याचा विचार आपण करू शकतो. एआयमधील दोष कमी करण्यासाठी, तो आणखी सर्वसमावेशक व्हावा यासाठी समाजातील सुज्ञ लोकांचा दबावगट तयार करू शकतो. मुळात एआय हे मानवाने विकसित केलेलं तंत्रज्ञान आहे, म्हणून माणसाच्या भल्यासाठीच त्याचा वापर होतोय की नाही, हे सतत पाहणंही माणसाचीच, किंबहुना आपली सर्वांचीच जबाबदारी आहे.
दुसऱ्या महायुद्धाच्या शेवटी अमेरिकेने जपानवर अणुबॉम्ब हल्ला केला आणि त्यात जपानची दोन शहरं बेचिराख झाली. या भीषण दुर्घटनेनंतर जागतिक महायुद्ध संपलं. अणुबॉम्बची निर्मिती, त्याने घडवून आणलेला संहार पाहिल्यानंतर आणि भविष्यात त्यातून काय होऊ शकतं, याचा अंदाज घेतल्यानंतर हा शोध मानव समाजासाठी किती घातक ठरू शकतो याची कल्पना जगाला आली. इथून पुढे शास्त्रज्ञ या जगाची दिशा ठरवतील, अशी चर्चा तेव्हा जगभर सुरू होती. त्यात महात्मा गांधी यांनी असं म्हटलं की, जगाला आता सत्याग्रही शास्त्रज्ञांची गरज आहे. त्यावर सत्याग्रह या शब्दाला पूरक ठरेल असा शब्द विनोबा भावे यांनी सुचविला. ते म्हणाले की, या जगाला आता केवळ सत्याग्रही नव्हे तर 'सत्यग्राही शास्त्रज्ञांची गरज आहे. प्रत्येकाच्या हिताचं काय आहे हे जाणू शकणाऱ्या शास्त्रज्ञांची आता आपल्याला गरज आहे.' एआय हा मानवी इतिहासातील तितकाच महत्त्वाचा शोध आहे ज्याचा प्रभाव कदाचित अणुबॉम्बच्या शोधाच्या प्रभावापेक्षा मोठा असणार आहे. त्यामुळे आपण असा आग्रह धरायला हवा की, आपल्याला आता सत्यग्राही एआयची गरज आहे. प्रत्येक समूहाच्या हिताचा विचार करू शकेल असे अल्गोरिदम, असे एआय आपल्याला विकसित करावे लागेल. त्यातूनच एआयमधे येणारा बायस कमी होईल आणि तो सर्वांसाठी अधिकाधिक उपयुक्त ठरेल.
- प्रतीक कोसके
------------------
सौ पुढारी दीपस्तंभ दिवाळी अंक २४
(लेखक 'थिक बँक' या यूट्यूब चॅनलचे कार्यकारी संपादक आहेत.
संपर्क ८४११८६०८९१)
कोणत्याही टिप्पण्या नाहीत:
टिप्पणी पोस्ट करा