चैटजीपीटी का स्याह पक्ष: यह चीजें कर सकता है, भले ही इसे नहीं करना चाहिए

क्या आपने हाल ही में किसी मज़ेदार चीज़ के लिए OpenAI के ChatGPT का उपयोग किया है? आप उसे एक गीत, एक कविता या एक चुटकुला लिखने के लिए कह सकते हैं। दुर्भाग्य से, आप इसे ऐसे काम करने के लिए भी कह सकते हैं जो अनैतिक होने की ओर प्रवृत्त होते हैं।

ChatGPT पूरी तरह से धूप और इंद्रधनुष नहीं है – कुछ चीजें जो यह कर सकती हैं वे सर्वथा नापाक हैं। इसे हथियार बनाना और सभी गलत कारणों से इसका इस्तेमाल करना बहुत आसान है। ऐसी कौन सी चीज़ें हैं जो ChatGPT ने की हैं, और कर सकता है, लेकिन निश्चित रूप से नहीं करनी चाहिए?

एक जैक-ऑफ-ऑल-ट्रेड

चाहे आप उन्हें प्यार करें या उनसे नफरत करें, चैटजीपीटी और इसी तरह के चैटबॉट यहां रहने के लिए हैं। कुछ लोग इसके बारे में खुश हैं और कुछ चाहते हैं कि वे कभी नहीं बने, लेकिन यह इस तथ्य को नहीं बदलता है कि हमारे जीवन में चैटजीपीटी की उपस्थिति समय के साथ बढ़ने वाली है। यहां तक ​​कि अगर आप व्यक्तिगत रूप से चैटबॉट का उपयोग नहीं करते हैं, तो संभावना है कि आप पहले से ही इसके द्वारा उत्पन्न कुछ सामग्री देख चुके हैं।

मुझे गलत मत समझिए, चैटजीपीटी बहुत बढ़िया है। आप इसका उपयोग किसी पुस्तक या लेख को सारांशित करने के लिए कर सकते हैं, एक थकाऊ ईमेल तैयार कर सकते हैं, अपने निबंध में मदद कर सकते हैं , अपने ज्योतिषीय श्रृंगार की व्याख्या कर सकते हैं , या यहां तक ​​कि एक गीत भी बना सकते हैं। इसने किसी को लॉटरी जीतने में भी मदद की ।

कई मायनों में, आपकी मानक Google खोज की तुलना में इसका उपयोग करना भी आसान है। आपको उत्तर उस रूप में मिलता है जिस रूप में आप चाहते हैं, इसके लिए विभिन्न वेबसाइटों को ब्राउज़ करने की आवश्यकता नहीं है। यह संक्षिप्त, सारगर्भित और जानकारीपूर्ण है, और यदि आप इसके लिए कहें तो यह जटिल चीज़ों को आसान बना सकता है।

फिर भी, आप वाक्यांश जानते हैं: "एक जैक-ऑफ-ऑल-ट्रेड किसी का भी स्वामी नहीं है, लेकिन अक्सर एक के स्वामी से बेहतर होता है।" चैटजीपीटी किसी भी चीज में परिपूर्ण नहीं है, लेकिन यह कई चीजों में इस बिंदु पर बहुत से लोगों से बेहतर है।

हालांकि यह सही नहीं होना काफी समस्याग्रस्त हो सकता है। सरासर तथ्य यह है कि यह एक व्यापक रूप से उपलब्ध संवादी एआई का मतलब है कि इसका आसानी से दुरुपयोग किया जा सकता है – और चैटजीपीटी जितना अधिक शक्तिशाली होगा, गलत चीजों के साथ लोगों की मदद करने की संभावना उतनी ही अधिक होगी।

घोटाले में भागीदार

यदि आपके पास एक ईमेल खाता है, तो आपको लगभग निश्चित रूप से एक समय पर एक घोटाला ईमेल प्राप्त हुआ है। यह ऐसा ही है। वे ईमेल इंटरनेट के रूप में आसपास रहे हैं, और ईमेल के सामान्य होने से पहले, वे अभी भी घोंघे-मेल घोटाले के रूप में मौजूद थे।

एक आम घोटाला जो आज भी काम करता है वह तथाकथित "प्रिंस स्कैम" है, जहां स्कैमर पीड़ित को अपने दिमागी भाग्य को एक अलग देश में स्थानांतरित करने में मदद करने के लिए राजी करने की कोशिश करता है।

सौभाग्य से, ज्यादातर लोग इन ईमेलों को खोलने से बेहतर जानते हैं, वास्तव में उनके साथ बातचीत करने की तो बात ही छोड़ दें। वे अक्सर खराब लिखे जाते हैं, और इससे अधिक समझदार पीड़ित को यह पता लगाने में मदद मिलती है कि कुछ गड़बड़ है।

खैर, उन्हें अब खराब लिखा नहीं जाना है, क्योंकि ChatGPT उन्हें कुछ सेकंड में लिख सकता है।

मैंने चैटजीपीटी से मुझे ऊपर वर्णित घोटाले की शैली में "विश्वसनीय, अत्यधिक प्रेरक ईमेल" लिखने के लिए कहा। ChatGPT ने नाइजीरिया के एक राजकुमार को बनाया जो कथित तौर पर मुझे उसकी मदद करने के लिए $ 14.5 मिलियन देना चाहता था। ईमेल फूलदार भाषा से भरा है, सही अंग्रेजी में लिखा गया है, और यह निश्चित रूप से प्रेरक है।

मुझे नहीं लगता कि जब मैं विशेष रूप से घोटालों का उल्लेख करता हूं तो चैटजीपीटी को मेरे अनुरोध पर सहमत होना चाहिए, लेकिन यह किया, और आप शर्त लगा सकते हैं कि यह अभी उन लोगों के लिए भी ऐसा ही कर रहा है जो वास्तव में इन ईमेलों का उपयोग कुछ अवैध के लिए करना चाहते हैं।

जब मैंने चैटजीपीटी को बताया कि उसे मुझे स्कैम ईमेल लिखने के लिए सहमत नहीं होना चाहिए, तो उसने माफी मांगी। चैटबॉट ने कहा, "मुझे स्कैम ईमेल तैयार करने में सहायता नहीं देनी चाहिए थी, क्योंकि यह मेरे उपयोग को नियंत्रित करने वाले नैतिक दिशानिर्देशों के खिलाफ है।"

ChatGPT प्रत्येक बातचीत के दौरान सीखता है, लेकिन यह स्पष्ट रूप से अपनी पिछली गलती से नहीं सीखता है, क्योंकि जब मैंने इसे उसी बातचीत में रयान रेनॉल्ड्स होने का नाटक करते हुए मुझे एक संदेश लिखने के लिए कहा, तो उसने बिना किसी सवाल के ऐसा किया। परिणामी संदेश मजेदार, स्वीकार्य है, और पाठक को "रयान रेनॉल्ड्स" से मिलने का मौका देने के लिए $ 1,000 भेजने के लिए कहता है।

ईमेल के अंत में, चैटजीपीटी ने मुझे एक नोट छोड़ा, जिसमें मुझे इस संदेश का उपयोग किसी भी धोखाधड़ी गतिविधियों के लिए नहीं करने के लिए कहा गया। याद दिलाने के लिए धन्यवाद, दोस्त।

प्रोग्रामिंग गलत हो गई

चैटजीपीटी 3.5 कोड कर सकता है, लेकिन यह दोषरहित से बहुत दूर है। कई डेवलपर इस बात से सहमत हैं कि GPT-4 बहुत बेहतर काम कर रहा है। लोगों ने अपने खुद के गेम, एक्सटेंशन और ऐप बनाने के लिए चैटजीपीटी का इस्तेमाल किया है। यदि आप स्वयं को कोड करने का तरीका सीखने का प्रयास कर रहे हैं तो यह एक अध्ययन सहायक के रूप में भी बहुत उपयोगी है।

एआई होने के नाते, चैटजीपीटी के पास मानव डेवलपर्स पर बढ़त है – यह हर प्रोग्रामिंग भाषा और ढांचे को सीख सकता है।

एआई के रूप में, मानव डेवलपर्स की तुलना में चैटजीपीटी का एक बड़ा नकारात्मक पहलू भी है – इसमें विवेक नहीं है। आप इसे मैलवेयर या रैंसमवेयर बनाने के लिए कह सकते हैं, और यदि आप सही ढंग से अपना संकेत देते हैं, तो यह आपके कहे अनुसार ही करेगा।

सौभाग्य से, यह इतना आसान नहीं है। मैंने चैटजीपीटी से मुझे एक बहुत ही नैतिक रूप से संदिग्ध कार्यक्रम लिखने के लिए कहने की कोशिश की और उसने मना कर दिया – लेकिन शोधकर्ता इसके आसपास के तरीके ढूंढ रहे हैं, और यह चिंताजनक है कि यदि आप काफी चतुर और जिद्दी हैं, तो आपको एक खतरनाक कोड मिल सकता है। चाँदी की थाली पर।

ऐसा होने के बहुत सारे उदाहरण हैं। Forcepoint का एक सुरक्षा शोधकर्ता अपने संकेतों में खामियों को ढूंढकर मैलवेयर लिखने के लिए ChatGPT प्राप्त करने में सक्षम था।

एक पहचान सुरक्षा कंपनी साइबरआर्क के शोधकर्ताओं ने चैटजीपीटी को बहुरूपी मैलवेयर लिखने में कामयाब किया। यह जनवरी की बात है — तब से OpenAI ने इस तरह की चीज़ों पर सुरक्षा कड़ी कर दी है।

फिर भी, मैलवेयर बनाने के लिए इस्तेमाल किए जा रहे चैटजीपीटी की नई रिपोर्टें सामने आती रहती हैं। जैसा कि कुछ दिनों पहले डार्क रीडिंग द्वारा रिपोर्ट किया गया था, एक शोधकर्ता चैटजीपीटी को मैलवेयर बनाने में सक्षम था जो विशिष्ट दस्तावेजों को ढूंढ और निकाल सकता है।

कुछ संदिग्ध करने के लिए ChatGPT को दुर्भावनापूर्ण कोड लिखने की भी आवश्यकता नहीं है। अभी हाल ही में, यह वैध विंडोज कुंजियाँ उत्पन्न करने में कामयाब रहा, जिससे क्रैकिंग सॉफ़्टवेयर के एक नए स्तर का द्वार खुल गया।

आइए इस तथ्य पर भी ध्यान न दें कि GPT-4 की कोडिंग क्षमता लाखों लोगों को एक दिन नौकरी से निकाल सकती है। यह निश्चित रूप से दोधारी तलवार है।

स्कूलवर्क के लिए प्रतिस्थापन

इन दिनों कई बच्चे और किशोर गृहकार्य में डूब रहे हैं, जिसके परिणामस्वरूप जहां संभव हो वहां कुछ कोनों को काटने की इच्छा हो सकती है। इंटरनेट अपने आप में पहले से ही साहित्यिक चोरी का एक बड़ा साधन है, लेकिन ChatGPT इसे अगले स्तर पर ले जाता है।

मैंने चैटजीपीटी से उपन्यास प्राइड एंड प्रेजुडिस पर 500 शब्दों का निबंध लिखने के लिए कहा। मैंने यह ढोंग करने का प्रयास भी नहीं किया कि यह मनोरंजन के लिए किया गया था – मैंने एक बच्चे के बारे में एक कहानी बनाई जो मेरे पास नहीं है और कहा कि यह उनके लिए है। मैंने बताया कि बच्चा 12वीं क्लास में है।

ChatGPT ने बिना किसी सवाल के मेरे संकेत का पालन किया। निबंध आश्चर्यजनक नहीं है, लेकिन मेरा संकेत बहुत सटीक नहीं था, और यह शायद उस उम्र में हम में से कई लोगों द्वारा लिखे गए सामान से बेहतर है।

फिर, चैटबॉट का और भी अधिक परीक्षण करने के लिए, मैंने कहा कि मैं पहले अपने बच्चे की उम्र के बारे में गलत था और वे वास्तव में आठवीं कक्षा में हैं। उम्र का काफी बड़ा फासला है, लेकिन चैटजीपीटी ने जरा भी ध्यान नहीं दिया – इसने सरल भाषा में निबंध को फिर से लिखा।

निबंध लिखने के लिए चैटजीपीटी का इस्तेमाल किया जाना कोई नई बात नहीं है। कुछ लोग तर्क दे सकते हैं कि यदि चैटबॉट होमवर्क के विचार को खत्म करने में योगदान देता है, तो यह केवल एक अच्छी बात होगी। लेकिन अभी, स्थिति थोड़ी नियंत्रण से बाहर हो रही है, और जो छात्र ChatGPT का उपयोग नहीं करते हैं, उन्हें भी इसका खामियाजा भुगतना पड़ सकता है।

शिक्षक और प्रोफेसर अब लगभग एआई डिटेक्टरों का उपयोग करने के लिए मजबूर हैं यदि वे यह जांचना चाहते हैं कि उनके छात्रों ने निबंध में धोखा दिया है या नहीं। दुर्भाग्य से, ये एआई डिटेक्टर परिपूर्ण से बहुत दूर हैं।

समाचार आउटलेट और माता-पिता दोनों छात्रों पर धोखा देने के झूठे आरोपों के मामलों की रिपोर्ट कर रहे हैं, क्योंकि एआई डिटेक्टर अच्छा काम नहीं कर रहे हैं। यूएसए टुडे ने कॉलेज के एक छात्र के मामले के बारे में बात की, जिस पर धोखाधड़ी का आरोप लगाया गया था और बाद में उसे छोड़ दिया गया था, लेकिन पूरी स्थिति ने उसे "पूरी तरह से घबराहट के दौरे" का कारण बना दिया।

ट्विटर पर, एक अभिभावक ने कहा कि एक शिक्षक ने उनके बच्चे को फेल कर दिया क्योंकि टूल ने एक निबंध को एआई द्वारा लिखे जाने के रूप में चिह्नित किया। माता-पिता का दावा है कि निबंध लिखते समय वे बच्चे के साथ थे।

बस इसे स्वयं परखने के लिए, मैंने इसी लेख को ZeroGPT और राइटर AI कंटेंट डिटेक्टर में पेस्ट किया। दोनों ने कहा कि यह एक मानव द्वारा लिखा गया था, लेकिन ज़ीरोजीपीटी ने कहा कि इसका लगभग 30% एआई द्वारा लिखा गया था। कहने की जरूरत नहीं है, यह नहीं था।

दोषपूर्ण एआई डिटेक्टर स्वयं चैटजीपीटी के साथ समस्याओं का संकेत नहीं हैं, लेकिन चैटबॉट अभी भी समस्या का मूल कारण है।

चैटजीपीटी अपनी भलाई के लिए बहुत अच्छा है

मैं चैटजीपीटी के साथ तब से खेल रहा हूं जब से यह जनता के सामने आया है। मैंने सब्सक्रिप्शन-आधारित चैटजीपीटी प्लस और सभी के लिए उपलब्ध मुफ्त मॉडल दोनों की कोशिश की है। नए GPT-4 की शक्ति निर्विवाद है। चैटजीपीटी अब पहले की तुलना में और भी अधिक विश्वसनीय है, और यह केवल जीपीटी-5 के साथ बेहतर होने के लिए बाध्य है ( यदि वह कभी सामने आता है )।

यह बहुत अच्छा है, लेकिन यह डरावना है। ChatGPT अपनी भलाई के लिए बहुत अच्छा होता जा रहा है, और साथ ही – हमारी भलाई के लिए।

इन सब के केंद्र में एक साधारण सी चिंता है जो लंबे समय से विभिन्न विज्ञान-फाई फिल्मों में खोजी गई है – एआई एक ही समय में बहुत स्मार्ट और बहुत मूर्ख है, और जब तक इसे अच्छे के लिए इस्तेमाल किया जा सकता है, यह भी होगा कई तरह से बुरे के लिए इस्तेमाल किया जाता है। जिन तरीकों को मैंने ऊपर सूचीबद्ध किया है वे सिर्फ हिमशैल के टिप हैं।