लोकप्रिय ChatGPT जेनरेटिव AI समाधान के पीछे के दिमाग OpenAI ने एक रिपोर्ट जारी कर कहा कि इसने 2024 में अब तक दुनिया भर में 20 से अधिक संचालन और बेईमान नेटवर्क को अवरुद्ध कर दिया है। ऑपरेशन उद्देश्य, पैमाने और फ़ोकस में भिन्न थे, और उनका उपयोग मैलवेयर बनाने और नकली मीडिया खाते, नकली बायोस और वेबसाइट लेख लिखने के लिए किया गया था।
ओपनएआई ने पुष्टि की है कि उसने बंद की गई गतिविधियों का विश्लेषण किया है और अपने विश्लेषण से महत्वपूर्ण जानकारियां प्रदान की हैं। रिपोर्ट में कहा गया है, "खतरनाक अभिनेता हमारे मॉडलों के साथ विकास और प्रयोग करना जारी रखते हैं, लेकिन हमने इस बात का सबूत नहीं देखा है कि इससे काफी हद तक नए मैलवेयर बनाने या वायरल ऑडियंस बनाने की उनकी क्षमता में सार्थक सफलता मिली है।"
यह विशेष रूप से महत्वपूर्ण है क्योंकि यह संयुक्त राज्य अमेरिका, रवांडा, भारत और यूरोपीय संघ सहित विभिन्न देशों में चुनावी वर्ष है। उदाहरण के लिए, जुलाई की शुरुआत में, ओपनएआई ने कई खातों पर प्रतिबंध लगा दिया, जिन्होंने रवांडा में चुनावों के बारे में टिप्पणियां बनाई थीं, जिन्हें एक्स (पूर्व में ट्विटर) पर विभिन्न खातों द्वारा पोस्ट किया गया था। इसलिए, यह सुनकर अच्छा लगा कि ओपनएआई का कहना है कि धमकी देने वाले अभिनेता अभियानों में ज्यादा प्रगति नहीं कर सके।
OpenAI के लिए एक और जीत चीन स्थित "स्वीटस्पेक्टर" के रूप में जाने जाने वाले ख़तरनाक अभिनेता को बाधित कर रही है, जिसने OpenAI कर्मचारियों के कॉर्पोरेट और व्यक्तिगत पते पर फ़िशिंग फ़िशिंग का प्रयास किया था। रिपोर्ट में आगे कहा गया है कि अगस्त में, माइक्रोसॉफ्ट ने डोमेन के एक सेट का खुलासा किया था, जिसका श्रेय उन्होंने एक ईरानी गुप्त प्रभाव ऑपरेशन को दिया था, जिसे "STORM-2035" के नाम से जाना जाता है। "उनकी रिपोर्ट के आधार पर, हमने चैटजीपीटी पर गतिविधि के एक संबद्ध सेट की जांच की, उसे बाधित किया और रिपोर्ट किया।"
ओपनएआई का यह भी कहना है कि उनके मॉडल द्वारा बनाए गए सोशल मीडिया पोस्ट पर ज्यादा ध्यान नहीं दिया गया क्योंकि उन्हें बहुत कम टिप्पणियां, लाइक या शेयर मिले। ओपनएआई यह सुनिश्चित करता है कि वे यह अनुमान लगाना जारी रखेंगे कि खतरे वाले अभिनेता हानिकारक उद्देश्यों के लिए उन्नत मॉडल का उपयोग कैसे करते हैं और इसे रोकने के लिए आवश्यक कार्रवाई करने की योजना बनाते हैं।