ट्विटर ने खुलासा किया कि उसने नस्ल और लिंग पूर्वाग्रह के कारण एआई क्रॉपिंग को छोड़ दिया

सितंबर 2020 में हमने पहली बार यह विचार सुना था कि ट्विटर के इमेज-क्रॉपिंग एल्गोरिदम में कुछ पूर्वाग्रह हो सकते हैं। क्रिप्टोग्राफिक इंजीनियर टोनी अर्सीरी ने सीनेट के अधिकांश नेता मिच मैककोनेल और पूर्व राष्ट्रपति बराक ओबामा की दो छवियां अपलोड कीं, और एआई दोनों बार मैककोनेल के चेहरे पर क्रॉप हो गया। .

जब विवाद अंततः ट्विटर पर लोगों तक पहुंचा, तो कंपनी ने अपने मॉडल का विश्लेषण करने का वादा किया। अंत में, हमें उन निष्कर्षों के माध्यम से पढ़ने को मिलता है।

ट्विटर अपने एल्गोरिदम विश्लेषण के परिणाम साझा करता है

मई की शुरुआत में, ट्विटर ने अंततः अपने मोबाइल टाइमलाइन पर पूर्ण आकार की छवि पूर्वावलोकन शुरू किया। ट्विटर ब्लॉग पर एक पोस्ट से पता चला है कि एक विश्लेषण के बाद ऐप ने अपनी इमेज क्रॉपिंग एल्गोरिथम को हटा दिया, जिसमें दिखाया गया था कि इसमें नस्ल और लिंग-आधारित पूर्वाग्रह थे।

प्लेटफ़ॉर्म ने अपनी छवियों को क्रॉप करने के लिए 2018 में एक सामर्थ्य एल्गोरिदम का शुरू किया। ट्विटर का कहना है कि मानव आंखों पर नज़र रखने वाले डेटा पर सामर्थ्य मॉडल को प्रशिक्षित किया जाता है, जो तब एल्गोरिदम द्वारा उपयोग किया जाता है ताकि यह अनुमान लगाया जा सके कि छवि में कौन से विषय/तत्व अधिकांश लोगों के लिए महत्वपूर्ण होने की संभावना है।

फिर एल्गोरिथ्म फसल के केंद्र होने के लिए उच्चतम स्कोर वाले बिंदु को चुनने से पहले छवि के सभी हिस्सों के लिए एक प्रमुख स्कोर के साथ आएगा।

संभावित पूर्वाग्रहों की जांच के लिए मात्रात्मक परीक्षण चलाने के बाद, टीम ने पाया कि सामर्थ्य एल्गोरिदम पुरुषों पर महिलाओं और काले व्यक्तियों पर सफेद व्यक्तियों के पक्ष में प्रतीत होता है।

ट्विटर ने "पुरुष टकटकी" के लिए एल्गोरिथ्म का भी परीक्षण किया, लेकिन ऑब्जेक्टिफिकेशन पूर्वाग्रह का कोई सबूत नहीं मिला।

भले ही योग्यता एल्गोरिथ्म को नस्ल और लिंग उपसमूहों में पूर्ण समानता को प्रतिबिंबित करने के लिए समायोजित किया गया था, हम [ट्विटर] स्वचालित एल्गोरिथ्म के प्रतिनिधित्वात्मक नुकसान से चिंतित हैं, जब लोगों को मंच पर अपनी इच्छा के अनुसार खुद का प्रतिनिधित्व करने की अनुमति नहीं है। इस विश्लेषण के दायरे से परे अन्य संभावित नुकसान भी हैं, जिसमें सांस्कृतिक बारीकियों के प्रति असंवेदनशीलता भी शामिल है।

स्वचालित फसल की गति और निरंतरता और इसके जोखिमों के बीच ट्रेडऑफ़ पर विचार करते हुए, ट्विटर का कहना है कि इसकी टीम ने महसूस किया कि किसी छवि को कैसे क्रॉप करना लोगों द्वारा सबसे अच्छा निर्णय है-एल्गोरिदम नहीं।

संबंधित: प्रौद्योगिकी रुझान जो पहले से ही भविष्य बदल रहे हैं

ट्विटर ने स्वचालित इमेज क्रॉपिंग से छुटकारा पाया

Twitter अब सलूशन एल्गोरिथम का उपयोग नहीं करता है, और अब iOS और Android दोनों पर मानक पहलू अनुपात फ़ोटो को पूर्ण रूप से प्रदर्शित करता है। एक ट्वीट तैयार करते समय, आप पाएंगे कि नए अपडेट में अपलोड की गई छवियों का एक वास्तविक पूर्वावलोकन भी शामिल है, ताकि आप जान सकें कि एक बार प्रकाशित होने के बाद सब कुछ कैसा दिखेगा।

यदि आप अध्ययन के अकादमिक पेपर को पढ़ने में रुचि रखते हैं, तो आप इसे arXiv.org पर देख सकते हैं। आप GitHub पर विश्लेषण के लिए Twitter का कोड भी पा सकते हैं।