पडद्यामागचं सोशल मीडिया भाग ३ : Algorithm मध्ये पक्षपात शिरू शकतो का?

 मशीन निष्पक्ष असतं... पण त्याला शिकवणारा माणूस?

मागील भागात आपण एक महत्त्वाची गोष्ट समजून घेतली. AI स्वतः विचार करत नाही. तो फक्त त्याला दिलेले नियम पाळतो. म्हणूनच आपण म्हटलं होतं, "AI हुशार नसतो... तो नियम पाळण्यात प्रामाणिक असतो."

पण आजचा प्रश्न त्याहूनही मोठा आहे. जर AI फक्त नियम पाळत असेल, तर ते नियम लिहितं कोण? आणि ते नियम लिहिणाऱ्या माणसाच्याच विचारांमध्ये नकळत पक्षपात असेल, तर AI चे निर्णयही बदलू शकतात का?

हा प्रश्न समजून घेण्यासाठी एक छोटा प्रयोग करूया.

समजा, दोन शिक्षकांना एकाच विद्यार्थ्याची उत्तरपत्रिका तपासायला दिली. उत्तरपत्रिका एकच होती. पण एका शिक्षकाने ८५ गुण दिले, तर दुसऱ्याने ७०. असं का झालं?

कारण दोघांचे मापदंड वेगळे होते. एक शिक्षक म्हणाला, "अर्थ बरोबर आहे, म्हणून गुण द्या." दुसरा म्हणाला, "शब्दशः उत्तर नाही, म्हणून गुण कापा." उत्तरपत्रिका बदलली नव्हती. बदलला होता तपासणाऱ्याचा दृष्टिकोन.

AI मध्येही अगदी असंच घडू शकतं.

AI स्वतः नियम तयार करत नाही. कोणते फोटो संशयास्पद मानायचे, कोणते शब्द धोकादायक समजायचे, कोणत्या पोस्ट आधी तपासायच्या, कोणत्या पोस्ट जास्त लोकांपर्यंत पोहोचवायच्या... हे सर्व नियम त्याला माणसांकडून शिकवले जातात.

इथेच एक नवीन शब्द समोर येतो.

Bias.

मराठीत... पक्षपात.

पक्षपात म्हणजे नेहमी जाणीवपूर्वक केलेला अन्याय असतो, असं नाही. अनेकदा तो नकळत आपल्या विचारांत शिरलेला असतो.

समजा, एखाद्या शिक्षकाला सुंदर हस्ताक्षर खूप आवडतं. उत्तर बरोबर असूनही विस्कळीत हस्ताक्षर पाहिल्यावर तो नकळत थोडे कमी गुण देऊ शकतो. त्याला स्वतःलाही हे जाणवत नाही.

यालाच म्हणतात... Bias.

AI मध्येही हेच घडू शकतं. कारण AI माणसांकडून शिकतो. आणि माणसांच्या विचारांमध्ये जर नकळत पक्षपात असेल, तर तो AI पर्यंत पोहोचू शकतो. म्हणूनच आज जगभरातील AI संशोधक एका मोठ्या प्रश्नावर काम करत आहेत.

"AI अधिक न्याय्य कसा बनवायचा?"
कारण AI चा चुकीचा निर्णय एका व्यक्तीवर परिणाम करत नाही. कधी कधी त्याचा परिणाम लाखो लोकांवर होऊ शकतो.

इथे एक गोष्ट स्पष्ट समजून घ्या.याचा अर्थ असा नाही की प्रत्येक Algorithm पक्षपाती असतो. आणि प्रत्येक चुकीचा निर्णय हा मुद्दाम घेतलेलाच असतो, असंही नाही. पण इतक्या मोठ्या प्रणालीमध्ये पक्षपात शिरू शकतो, ही शक्यता नाकारता येत नाही. म्हणूनच मोठ्या तंत्रज्ञान कंपन्यांना त्यांच्या AI प्रणालींची सतत चाचणी घ्यावी लागते, चुका शोधाव्या लागतात आणि त्या दुरुस्त कराव्या लागतात.

"AI चे निर्णय पाहण्यापेक्षा... त्याला नियम कोणी शिकवले, हे जाणून घेणं अधिक महत्त्वाचं आहे."
आता तुम्हाला आणखी एक प्रश्न पडला असेल. Facebook ला तुमच्याबद्दल इतकं कसं माहीत असतं?

तुम्ही कोणते व्हिडिओ जास्त वेळ पाहता, कोणत्या पोस्टवर थांबता,कोणत्या विषयांवर प्रतिक्रिया देता, तुम्ही काही न सांगताही त्याला तुमच्या आवडी कशा समजतात?, तो तुमच्यावर सतत नजर ठेवतो का?

की त्यामागे अजून काही वेगळंच तंत्रज्ञान काम करत असतं?

याच उत्तरात दडलं आहे सोशल मीडियाचं पुढचं मोठं रहस्य.

क्रमशः...

भाग ४ : Facebook ला तुमच्याबद्दल इतकं कसं माहीत असतं? — तुमचा डेटा नेमका कोणता असतो?

तुमच्या मते, AI निष्पक्ष राहण्यासाठी सर्वात महत्त्वाची गोष्ट कोणती—चांगले नियम, चांगला डेटा की मानवी देखरेख?

©संतोष कारखानीस

#Facebook #ArtificialIntelligence #Algorithm #Bias #सोशलमीडिया