फेसबुक की अत्याधुनिक कृत्रिम बुद्धिमत्ता (एआई) तकनीक ने प्लेटफॉर्म को पहले से ज्यादा अभद्र भाषा को हटाने की अनुमति दी है। इसकी नफरत-पता लगाने वाली AI 2020 की तीसरी तिमाही में 95 प्रतिशत घृणित सामग्री को पकड़ने में कामयाब रही है।
हेट स्पीच के खिलाफ युद्ध में एआई की भूमिका
फेसबुक की नवीनतम सामुदायिक मानक प्रवर्तन रिपोर्ट ने प्रमुख भूमिका का खुलासा किया कि एआई प्लेटफॉर्म पर घृणास्पद भाषण का मुकाबला कर रहा है।
2020 की तीसरी तिमाही में, फेसबुक नफरत फैलाने वाले भाषण का लगभग 95 प्रतिशत "लगातार पता लगाने" में कामयाब रहा। कुल मिलाकर, फेसबुक ने फेसबुक पर घृणित सामग्री के 22.1 मिलियन टुकड़े और इंस्टाग्राम पर 6.5 मिलियन टुकड़े हटा दिए।
2017 की अंतिम तिमाही की तुलना में यह एक बड़ी वृद्धि है, एक ऐसी अवधि जब फेसबुक ने लगातार फेसबुक और इंस्टाग्राम पर केवल 24 प्रतिशत अभद्र भाषा का पता लगाया था।
हालाँकि प्लेटफ़ॉर्म घृणित सामग्री को हटाने के लिए "उपयोगकर्ता रिपोर्टों और प्रौद्योगिकी के संयोजन" का उपयोग करता है, लेकिन विशाल कूद को बड़े पैमाने पर फेसबुक के उन्नत एआई का श्रेय दिया गया है।
न केवल इसकी सूचना देने से पहले एआई घृणित सामग्री का पता लगाने और उस पर कार्रवाई करने में मदद करता है, बल्कि फेसबुक भी इसका उपयोग अधिक जटिल सामग्री को सॉर्ट करने के लिए करता है जिसकी समीक्षा करने की आवश्यकता होती है। फेसबुक ने एआई की भूमिका को आगे बताते हुए कहा:
क्या सामग्री का लगातार पता लगाया गया है या उपयोगकर्ताओं द्वारा रिपोर्ट किया गया है, हम अक्सर एआई का उपयोग सीधे मामलों पर कार्रवाई करने के लिए करते हैं और अधिक बारीक मामलों को प्राथमिकता देते हैं, जहां हमारे समीक्षकों के लिए संदर्भ पर विचार करने की आवश्यकता होती है।
इसके अतिरिक्त, फेसबुक ने तीसरी तिमाही के दौरान अभद्र भाषा के प्रसार में वृद्धि देखी। फेसबुक के अनुसार, यह "फेसबुक पर देखी गई सामग्री के नमूने का चयन करके अभद्र भाषा के प्रसार को निर्धारित करता है और फिर लेबल करता है कि यह हमारी घृणास्पद भाषण नीतियों का कितना उल्लंघन करता है।"
रिपोर्ट में दिखाया गया है कि मंच की सामग्री के प्रत्येक 10,000 विचारों में 10 से 11 विचारों में घृणास्पद भाषण शामिल थे।
फेसबुक कैसे नफरत फैलाने वाला भाषण देता है?
यदि आप सोच रहे हैं कि फेसबुक वास्तव में क्या निर्धारित करता है और भाषण से नफरत नहीं करता है, तो मंच लगातार अपनी परिभाषा को समायोजित करता है। अगस्त 2020 में, फेसबुक ने अपनी नफरत फैलाने वाली नीतियों को अद्यतन किया , जिसमें यहूदी विरोधी षड्यंत्र के सिद्धांतों और ब्लैकफेस को शामिल किया गया। फेसबुक का कहना है कि "समय के साथ-साथ भाषण जारी है, हम बदलते सामाजिक रुझानों को प्रतिबिंबित करने के लिए अपनी नीतियों को संशोधित करना जारी रखते हैं।"
अभी, फेसबुक नफरत फैलाने वाले भाषण को "ऐसी किसी भी चीज़ के रूप में परिभाषित करता है जो नस्ल, जातीयता, राष्ट्रीय मूल, धार्मिक संबद्धता, यौन अभिविन्यास, लिंग, लिंग पहचान या गंभीर विकलांगता या बीमारी सहित संरक्षित विशेषताओं के आधार पर लोगों पर सीधे हमला करती है।"
आगे जाने के लिए क्या उम्मीद है
विवादास्पद सामग्री के संबंध में 2020 तक, फेसबुक ने कई चुनौतियों का सामना किया है।
वर्ष की शुरुआत में, मंच को COVID-19 महामारी के बारे में गलत सूचना के खिलाफ लड़ना था। बाद में, इसे अमेरिकी राष्ट्रपति चुनाव के आसपास भ्रामक जानकारी से भी निपटना पड़ा। इसके कारण प्लेटफ़ॉर्म स्लैपिंग लेबलों को कुछ पोस्ट पर ले जाया जाता है, या उन्हें पूरी तरह से हटा दिया जाता है।
जैसा कि Facebook का AI विकसित होना जारी है, हम भविष्य में केवल और अधिक टेकडाउन की उम्मीद कर सकते हैं।