ट्विटर उपयोगकर्ता ऑटो-फसल एल्गोरिथ्म में संभावित नस्लीय पूर्वाग्रह की खोज करते हैं

ट्विटर यह निर्धारित करने की कोशिश कर रहा है कि इसकी फोटो पूर्वावलोकन सुविधा नस्लीय पूर्वाग्रह के संकेत क्यों दिखाती है। कई उपयोगकर्ताओं ने पाया कि काले चेहरों को सफेद चेहरे की तुलना में फोटो पूर्वावलोकन से बाहर निकलने की संभावना थी।

ट्विटर के एल्गोरिथम में एक दोष

जब आप ट्विटर पर एक छवि देखते हैं, तो यह सिर्फ एक पूर्वावलोकन है — आपको पूरी तस्वीर देखने के लिए उस पर क्लिक करना होगा। ट्विटर फ़ोटो फ़ोटो को क्रॉप करने के लिए एक एल्गोरिथ्म का उपयोग करता है, जो आपको छवि पूर्वावलोकन में दिखाई देगा।

2018 में, ट्विटर ने ट्विटर ब्लॉग पर एक पोस्ट में अपने स्मार्ट ऑटो-क्रॉपिंग फीचर की घोषणा की। यह फीचर फोटो के सबसे प्रमुख हिस्सों पर हॉन करने के लिए "सामर्थ्य" का उपयोग करता है, और फिर उसके अनुसार फोटो पूर्वावलोकन करता है।

ट्विटर उपयोगकर्ताओं ने पाया कि मंच के तंत्रिका नेटवर्क में एक नस्लीय पूर्वाग्रह हो सकता है। एक उपयोगकर्ता ने पूर्व राष्ट्रपति बराक ओबामा के साथ अमेरिकी सीनेटर मिच मैककोनेल की तस्वीर पोस्ट की।

जब ओबामा का चेहरा फोटो के शीर्ष पर रखा जाता है तब भी छवि पूर्वावलोकन रूप से ओबामा के चेहरे को धुंधला कर देती है। जब उसी उपयोगकर्ता ने चित्र के रंगों को निकालने की कोशिश की, तो ओबामा के चेहरे को अंततः छवि पूर्वावलोकन में दिखाया गया।

अन्य उपयोगकर्ताओं ने अपने स्वयं के प्रयोगों का संचालन करना शुरू कर दिया। समय और समय फिर से, उपयोगकर्ताओं ने पाया कि एल्गोरिथ्म लगातार लग रहा था कि काले चेहरे पर सफेद चेहरे पसंद करते हैं।

ट्विटर संचार टीम के सदस्य लिज़ केली ने ट्विटर उपयोगकर्ताओं के निष्कर्षों के जवाब में एक ट्वीट भेजा। उन्होंने कहा कि जब ट्विटर टीम ने पूर्वाग्रह के लिए एल्गोरिथम का परीक्षण किया था, तो उसे आगे की जांच करनी होगी।

ज़ूम कॉल समस्या के बारे में उपयोगकर्ता के ट्वीट से ये सभी खोजें हुईं। जब वह आभासी पृष्ठभूमि का उपयोग करने की कोशिश करता है तो ज़ूम अपने काले दोस्त के चेहरे का पता लगाने में लगातार विफल रहा। जब उपयोगकर्ता ने समस्या के स्क्रीनशॉट पोस्ट करने के लिए ट्विटर का रुख किया, तो ट्विटर ने अपने काले दोस्त को छवि पूर्वावलोकन से बाहर निकाल दिया।

ट्विटर से बियास आउट लेना

जबकि ये सभी प्रयोग अनौपचारिक हैं, वे एक वास्तविक मुद्दे को उजागर करते हैं। ट्विटर को निश्चित रूप से अपने ऑटो-क्रॉप फीचर पर बारीकी से विचार करना होगा, और यह देखना होगा कि क्या यह एक नस्लीय नस्लीय पूर्वाग्रह है।

उस ने कहा, ट्विटर की ऑटो-क्रॉप एल्गोरिथम एकमात्र ऐसी ट्विटर सुविधा नहीं है जिसकी आलोचना की गई है। आखिरकार, कई उपयोगकर्ता प्लेटफ़ॉर्म के एल्गोरिथ्म के प्रशंसक नहीं होते हैं जो स्वचालित रूप से आपके फ़ीड की व्यवस्था करता है।