वीडियो सोशल मीडिया प्लेटफॉर्म टिकटॉक के पीछे की कंपनी बाइटडांस ने कथित तौर पर एआई-फर्स्ट मॉडरेशन योजना में बदलाव के कारण दुनिया भर में सैकड़ों मानव सामग्री मॉडरेटर को नौकरी से निकाल दिया है।
रॉयटर्स की रिपोर्ट के अनुसार, खोई गई लगभग 500 नौकरियों में से अधिकांश मलेशिया में स्थित थीं। कंपनी के अनुसार, बाइटडांस कुल मिलाकर 110,000 से अधिक लोगों को रोजगार देता है। टिकटॉक के प्रवक्ता ने एक बयान में कहा, "हम कंटेंट मॉडरेशन के लिए अपने वैश्विक ऑपरेटिंग मॉडल को और मजबूत करने के अपने चल रहे प्रयासों के तहत ये बदलाव कर रहे हैं।"
कंपनी वर्तमान में मानव और एआई सामग्री मॉडरेटर के मिश्रण का उपयोग करती है, मशीनें लगभग 80% काम संभालती हैं। बाइटडांस ने 2024 में अपने विश्वास और सुरक्षा प्रयासों में लगभग 2 बिलियन डॉलर का निवेश करने की योजना बनाई है। यह बर्खास्तगी तब हुई है जब बाइटडांस को देश में नियामक जांच का सामना करना पड़ रहा है, जिसने इस साल हानिकारक सोशल मीडिया पोस्ट और गलत सूचनाओं में वृद्धि देखी है।
स्टेटसाइड, इंस्टाग्राम के प्रमुख एडम मोसेरी ने शुक्रवार को घोषणा की कि इंस्टाग्राम और थ्रेड्स द्वारा हाल ही में उपयोगकर्ता खातों को लॉक करना, पोस्ट को डाउन-रैंकिंग करना और उन्हें स्पैम के रूप में चिह्नित करना कंपनी के एआई मॉडरेशन सिस्टम के बजाय मानव मॉडरेटर द्वारा की गई गलतियों का परिणाम था। उनका दावा है कि कर्मचारी "बातचीत कैसे होती है, इसका संदर्भ बताए बिना कॉल कर रहे थे, जो एक चूक थी।"
हालाँकि, मनुष्य पूरी तरह से दोषी नहीं थे, मोसेरी ने स्पष्ट किया। "हमारे द्वारा बनाए गए उपकरणों में से एक टूट गया," उन्होंने स्वीकार किया, "इसलिए यह उन्हें पर्याप्त संदर्भ नहीं दिखा रहा था।"
पिछले कुछ दिनों में, दोनों साइटों पर उपयोगकर्ताओं ने अपने खातों को लॉक कर दिया और बाद में प्लेटफ़ॉर्म के आयु प्रतिबंधों का उल्लंघन करने के लिए अक्षम कर दिया, जो 13 वर्ष से कम उम्र के लोगों को अपने स्वयं के खाते रखने से रोकता है। द वर्ज के अनुसार, उपयोगकर्ताओं द्वारा अपनी आयु का सत्यापन अपलोड करने के बाद भी वे खाते लॉक रहे।
कंपनी के पीआर ने मोसेरी के रुख से अलग होकर टेकक्रंच को बताया कि "इंस्टाग्राम उपयोगकर्ताओं को जिन सभी समस्याओं का सामना करना पड़ा, वे मानव मॉडरेटर से संबंधित नहीं थीं।" पीआर के अनुसार, आयु सत्यापन मुद्दे की अभी भी जांच की जा रही है।