डीपफेक के प्रमुख खतरे और उन्हें कैसे हाजिर करें

ऐसी दुनिया में जहाँ आपकी ऑनलाइन पहचान सीधे आपसे जुड़ती है, सही प्रतिकृति की संभावना चिंताजनक है। लेकिन यह वही है जो हम गहरे प्रौद्योगिकी के आगमन के साथ सामना करते हैं।

जैसे ही तकनीक सस्ती और उपयोग में आसान हो जाती है, डीपफेक के खतरे क्या हैं? इसके अलावा, आप वास्तविक सौदे के बारे में गहराई से कैसे जान सकते हैं?

एक डीपफेक क्या है?

डीपफेक मीडिया को दिया गया नाम है जहां वीडियो या छवि में एक व्यक्ति को किसी और की समानता के साथ बदल दिया जाता है। यह शब्द "डीप लर्निंग" और "फर्जी" का चित्रण है और यथार्थवादी-अभी तक सिंथेटिक मीडिया बनाने के लिए मशीन लर्निंग एल्गोरिदम और कृत्रिम बुद्धिमत्ता का उपयोग करता है।

इसके सबसे बुनियादी में, आप एक और मॉडल पर आरोपित चेहरा पा सकते हैं। इसके तेजी से सबसे खराब रूप से विकसित होने पर, डीपफेक तकनीक नकली शिकारियों को फर्जी अश्लील वीडियो, फर्जी समाचार, झांसे और बहुत कुछ बताती है।

आप तकनीक की उत्पत्ति के बारे में हमारे डीपफेक व्याख्याता में और अधिक पढ़ सकते हैं।

दीपकों के खतरे क्या हैं?

नकली चित्र हमेशा मौजूद रहे हैं। यह पता लगाना कि क्या नकली है और क्या नहीं, जीवन का एक सामान्य हिस्सा नहीं है, खासकर डिजीटल मीडिया के उदय के बाद। लेकिन डीपफेक तकनीक के मुद्दे अलग हैं, नकली छवियों और नकली वीडियो के लिए अद्वितीय सटीकता लाते हैं।

व्यापक दर्शकों को हिट करने वाले पहले डीपफेक वीडियो में से एक जॉर्डन पेले थे, जो हाथ में बहुत ही मुद्दे पर चर्चा करते हुए एक वीडियो में बराक ओबामा की नकल कर रहे थे:

वीडियो में एक अजीब आवाज और क्लोन चेहरे पर दानेदार कलाकृतियों के साथ क्रूड दिखाई देता है। बहरहाल, यह डीपफेक तकनीक का चित्रण करता है।

या क्या आपने कभी सोचा है कि ऐसा क्या होता अगर विल स्मिथ कीनू रीव्स के बजाय द मैट्रिक्स में नियो की भूमिका निभाते (मेरा मतलब है, कौन नहीं?)! और अधिक आश्चर्य ना करें:

ये दो वीडियो दुर्भावनापूर्ण नहीं हैं, संकलन करने के लिए सैकड़ों घंटे की मशीन सीख रहे हैं। लेकिन वही तकनीक किसी के पास सीखने के लिए पर्याप्त समय और उसके साथ जाने के लिए कंप्यूटिंग शक्ति के लिए उपलब्ध है। डीपफेक तकनीक का उपयोग करने में बाधा शुरू में काफी अधिक थी। लेकिन जैसे-जैसे तकनीक में सुधार होता है और एंट्री ड्रॉप में बाधाएं आती हैं, लोग डीपफेक के लिए नकारात्मक और हानिकारक उपयोग पाते हैं।

इससे पहले कि हम डीपफेक के अंधेरे पक्ष में पहुंचें, यहां द जिम के कैरी ने द शाइनिंग में जैक निकोलसन की जगह ली:

1. नकली एडल्ट मैटीरियल में सेलेब्रिटीज की विशेषता

डीपफेक तकनीक से एक बड़ा खतरा सिंथेटिक वयस्क सामग्री, या डीपकेक पोर्न है जैसा कि यह ज्ञात है। एम्मा वॉटसन, नताली पोर्टमैन और टेलर स्विफ्ट जैसी प्रमुख महिला हस्तियों के चेहरों पर दसियों हज़ार नकली वयस्क वीडियो हैं।

सभी एक महिला वयस्क अभिनेत्री के शरीर पर सेलिब्रिटी चेहरे को सिलाई करने के लिए डीपफेक मशीन लर्निंग एल्गोरिदम का उपयोग करते हैं, और सभी कई वयस्क सामग्री वेबसाइटों पर लाखों विचारों को आकर्षित करते हैं।

फिर भी इनमें से कोई भी साइट सेलिब्रिटी डीपफेक के बारे में कुछ नहीं करती है।

गहनता का पता लगाने और विश्लेषण करने वाली फर्म सिनॉर के सीईओ और प्रमुख वैज्ञानिक जियोर्जियो पैट्रिनी कहते हैं , "जब तक उनके पास उन्हें नीचे ले जाने और उन्हें छानने की कोशिश करने का कोई मजबूत कारण नहीं है, तब तक कुछ नहीं होने वाला है।" "लोग अभी भी इन वेबसाइटों पर इस प्रकार की सामग्री को बिना किसी परिणाम के अपलोड करने के लिए स्वतंत्र होंगे, जिन्हें सैकड़ों लाखों लोग देखते हैं।"

वीडियो शोषक हैं और पीड़ित से दूर हैं, जैसा कि कुछ गहरे रचनाकारों का आरोप है।

2. नकली वयस्क सामग्री नियमित लोगों की विशेषता है

सेलेब्रिटीज की विशेषता सिंथेटिक पोर्न से भी बदतर क्या है? यह सही है: नकली वयस्क महिलाओं की नकल करने वाली विशिष्ट सामग्री। एक सेंसिटी स्टडी ने सोशल मैसेजिंग ऐप टेलीग्राम पर एक डीपफेक बॉट का खुलासा किया, जिसने 100,000 से अधिक डीपफेक नग्न चित्र बनाए थे। कई छवियां सोशल मीडिया अकाउंट्स से चोरी हो जाती हैं, जिसमें दोस्तों, गर्लफ्रेंड, पत्नियों, माताओं आदि की विशेषता होती है।

डीपफेक तकनीक में बॉट एक प्रमुख उन्नति है, क्योंकि इमेज अपलोडर को डीपफेक, मशीन लर्निंग या एआई के मौजूदा ज्ञान की आवश्यकता नहीं है। यह एक स्वचालित प्रक्रिया है जिसमें एकल छवि की आवश्यकता होती है। इसके अलावा, टेलीग्राम बॉट केवल महिलाओं की छवियों के साथ काम करने के लिए प्रकट होता है, और प्रीमियम सदस्यता (अधिक छवियां, हटाए गए वॉटरमार्क) हास्यास्पद रूप से सस्ते हैं।

सेलिब्रिटी डीपफेक की तरह, टेलीग्राम बॉट डीपफेक चित्र शोषक, अपमानजनक और अमोरल हैं। वे आसानी से एक पति, साथी, परिवार के सदस्य, सहकर्मी या बॉस के इनबॉक्स में अपना रास्ता खोज सकते हैं, इस प्रक्रिया में जीवन को नष्ट कर सकते हैं। ब्लैकमेल और जबरन वसूली के अन्य रूपों की संभावना बहुत अधिक है और यह मौजूदा मुद्दों जैसे कि बदला लेने वाले पोर्न से खतरे को बढ़ाता है।

टेलीग्राम पर डीपफेक पोस्ट करने से एक और मुद्दा बनता है। टेलीग्राम एक गोपनीयता-केंद्रित संदेश सेवा है जो अपने उपयोगकर्ताओं के साथ बहुत अधिक हस्तक्षेप नहीं करती है। इसमें वयस्क सामग्री से संबंधित पोर्न बॉट और अन्य बॉट को हटाने की नीति है लेकिन इस मामले में कुछ नहीं किया है।

3. झूला सामग्री

आपने जॉर्डन पील को ओबामा का किरदार निभाते हुए देखा है। उस वीडियो में वह डीपफेक के खतरों से आगाह कर रहा है। डीपफेक तकनीक के बारे में एक बड़ी चिंता यह है कि कोई व्यक्ति वीडियो को बनाएगा और प्रकाशित करेगा, इसलिए यह वास्तविक रूप से किसी न किसी रूप में एक त्रासदी की ओर ले जाएगा।

पैमाने के सबसे चरम छोर पर, लोगों का कहना है कि वीडियो सामग्री एक युद्ध को ट्रिगर कर सकती है। लेकिन अन्य प्रमुख परिणाम भी हैं। उदाहरण के लिए, एक बड़ा निगम या बैंक के सीईओ की विशेषता वाला एक गहरा वीडियो जो नुकसानदेह बयान देता है, शेयर बाजार दुर्घटना का कारण बन सकता है। फिर से, यह चरम है। लेकिन असली लोग एक वीडियो की जांच और सत्यापन कर सकते हैं, जबकि वैश्विक बाजार समाचारों पर तुरंत प्रतिक्रिया करते हैं, और स्वचालित सेलऑफ़ होते हैं।

विचार करने के लिए दूसरी बात मात्रा है। डीपफेक कंटेंट बनाने के लिए तेजी से सस्ते होने के साथ, यह एक ही व्यक्ति की डीपफेक सामग्री की भारी मात्रा की संभावना को बढ़ाता है, विभिन्न टन, स्थानों, शैलियों, और अधिक में एक ही नकली संदेश देने पर ध्यान केंद्रित करता है।

4. वास्तविक सामग्री से इनकार करना

हक्स सामग्री के विस्तार के रूप में, आपको यह विचार करना चाहिए कि डीपफेक अविश्वसनीय रूप से यथार्थवादी बन जाएगा। इतना ही नहीं लोग यह सवाल करना शुरू कर देंगे कि सामग्री की परवाह किए बिना कोई वीडियो वास्तविक है या नहीं।

यदि कोई अपराध करता है और एकमात्र सबूत वीडियो है, तो उसे यह कहते हुए रोकना क्या है, "यह एक गहरा मामला है, यह गलत सबूत है?" इसके विपरीत, किसी को खोजने के लिए डीपफेक वीडियो सबूत लगाने के बारे में क्या?

5. नकली विचार नेता और सामाजिक संपर्क

वहाँ पहले से ही कई उदाहरणों में गहरे नेताओं को विचारशील नेताओं के रूप में प्रस्तुत करने वाली सामग्री शामिल है। लिंक्डइन और ट्विटर पर प्रोफाइल रणनीतिक संगठनों में उच्च रैंकिंग भूमिकाओं का विस्तार करते हैं, फिर भी ये लोग मौजूद नहीं हैं और डीपफेक तकनीक का उपयोग करके उत्पन्न होते हैं।

उस ने कहा, यह एक गहन-विशिष्ट मुद्दा नहीं है। समय के बाद से, सरकारों, जासूसी नेटवर्क, और निगमों ने जानकारी इकट्ठा करने, एजेंडा पुश करने और हेरफेर करने के लिए नकली प्रोफाइल और व्यक्ति का उपयोग किया है ।

6. फ़िशिंग स्कैम, सोशल इंजीनियरिंग और अन्य स्कैम

सुरक्षा की बात आते ही सोशल इंजीनियरिंग पहले से ही एक मुद्दा है। लोग दूसरे लोगों पर भरोसा करना चाहते हैं। यह हमारे स्वभाव में है। लेकिन यह भरोसा सुरक्षा उल्लंघनों, डेटा चोरी, और बहुत कुछ कर सकता है। सोशल इंजीनियरिंग में अक्सर व्यक्तिगत संपर्क की आवश्यकता होती है, फोन पर, वीडियो कॉल का उपयोग करके, और इसी तरह।

मान लीजिए कि कोई व्यक्ति सुरक्षा कोड या अन्य संवेदनशील जानकारी तक पहुंच प्राप्त करने के लिए किसी निर्देशक की नकल करने के लिए डीपफेक तकनीक का उपयोग कर सकता है। उस मामले में, यह डीपफेक घोटालों की एक बाढ़ का कारण बन सकता है।

डीपफेक को स्पॉट और डिटेक्ट कैसे करें

डीपफेक की गुणवत्ता में वृद्धि के साथ, डीपफेक का पता लगाने के लिए महत्वपूर्ण है। शुरुआती दिनों में, कुछ सरल बताए गए थे: धुंधली छवियां, वीडियो भ्रष्टाचार और कलाकृतियां, और अन्य खामियां। हालाँकि, ये गप्पी मुद्दे कम हो रहे हैं जबकि तकनीक का उपयोग करने की लागत तेजी से गिर रही है।

डीपफेक सामग्री का पता लगाने का कोई सही तरीका नहीं है, लेकिन यहां चार आसान सुझाव दिए गए हैं:

1. विवरण । जितना अच्छा डीपफेक तकनीक बन रहा है, अभी भी बिट्स के साथ संघर्ष कर रहे हैं। विशेष रूप से, वीडियो के भीतर ठीक विवरण, जैसे बाल आंदोलन, आंख आंदोलन, गाल की संरचना और भाषण के दौरान आंदोलन, और अप्राकृतिक चेहरे के भाव। आंखों की हलचल एक बड़ी बात है। हालांकि डीपफेक अब प्रभावी रूप से झपकी ले सकता है (शुरुआती दिनों में, यह एक प्रमुख बताया गया था), आंख आंदोलन अभी भी एक मुद्दा है।
2. भावना । विस्तार में बांधना भावना है। यदि कोई व्यक्ति एक मजबूत बयान दे रहा है, तो उनके चेहरे पर भावनाओं की एक श्रृंखला प्रदर्शित होगी क्योंकि वे विवरण देते हैं। गहरे भावों को वास्तविक व्यक्ति के समान गहराई प्रदान नहीं कर सकते हैं।
3. असंगति । वीडियो की गुणवत्ता एक सर्वकालिक उच्च स्तर पर है। आपकी जेब में मौजूद स्मार्टफोन 4K में रिकॉर्ड और संचारित कर सकता है। यदि कोई राजनीतिक नेता बयान दे रहा है, तो यह शीर्ष स्तरीय रिकॉर्डिंग उपकरण से भरे कमरे के सामने है। इसलिए, दृश्य और श्रव्य दोनों खराब रिकॉर्डिंग गुणवत्ता, एक उल्लेखनीय असंगति है।
4. स्रोत क्या वीडियो एक सत्यापित प्लेटफ़ॉर्म पर दिखाई दे रहा है? सोशल मीडिया प्लेटफ़ॉर्म विश्व स्तर पर पहचानने योग्य लोगों की नकल करने के लिए सत्यापन का उपयोग करते हैं। ज़रूर, सिस्टम के साथ मुद्दे हैं। लेकिन जाँच करना जहाँ एक विशेष रूप से अहंकारी वीडियो होस्ट किया जा रहा है या होस्ट किया जा रहा है, आपको यह पता लगाने में मदद करेगा कि क्या यह वास्तविक है या नहीं। आप उन अन्य स्थानों को प्रकट करने के लिए एक रिवर्स इमेज सर्च करने का भी प्रयास कर सकते हैं, जहां छवि इंटरनेट पर पाई जाती है।

डीपफेक को स्पॉट करने और रोकने के लिए उपकरण

आप डीपफेक स्पॉट करने के खिलाफ लड़ाई में अकेले नहीं हैं। कई प्रमुख टेक कंपनियां डीपफेक डिटेक्शन के लिए उपकरण विकसित कर रही हैं, जबकि अन्य प्लेटफॉर्म डीपफेक को स्थायी रूप से अवरुद्ध करने के लिए कदम उठा रहे हैं।

उदाहरण के लिए, माइक्रोसॉफ्ट का डीपफेक डिटेक्शन टूल, माइक्रोसॉफ्ट वीडियो ऑथेंटिकेटर , सेकंड के भीतर विश्लेषण करेगा, इसकी प्रामाणिकता के उपयोगकर्ता को सूचित करेगा (उदाहरण के लिए नीचे GIF देखें)। उसी समय, Adobe आपको हेरफेर से बचाने के लिए सामग्री को डिजिटल रूप से साइन करने में सक्षम बनाता है।

फेसबुक और ट्विटर जैसे प्लेटफार्मों ने पहले ही दुर्भावनापूर्ण डीपफेक (गहरी मैट्रिक्स जैसे विल स्मिथ अभी भी निष्पक्ष खेल हैं) पर प्रतिबंध लगा दिया है, जबकि Google नकली ऑडियो स्निपेट्स का मुकाबला करने के लिए पाठ से भाषण विश्लेषण उपकरण पर काम कर रहा है।

यदि आप अपने नकली मीडिया पहचान कौशल पर ब्रश करना चाहते हैं, तो स्पॉटिंग और सीखने के लिए नकली पहचान परीक्षणों की हमारी सूची देखें।

डीपफेक आ रहे हैं — और वे बेहतर हो रहे हैं

इस मामले की सच्चाई यह है कि चूंकि 2018 में डीपफेक ने मुख्यधारा में प्रवेश किया है, इसलिए उनका प्राथमिक उपयोग महिलाओं का दुरुपयोग करना है। चाहे वह किसी सेलिब्रिटी चेहरे का उपयोग कर नकली पोर्न बना रहा हो या सोशल मीडिया पर किसी से कपड़े उतारना, यह सब दुनिया भर की महिलाओं के शोषण, छेड़छाड़ और अपमानित करने पर केंद्रित है।

इसमें कोई संदेह नहीं है कि डीपफेक का एक विद्रोह क्षितिज पर निहित है। इस तरह की तकनीक के बढ़ने से जनता के लिए ख़तरा पैदा हो गया है, फिर भी इसके मार्च को रोकने के लिए बहुत कम सहारा है।