दो महीने पहले, 65 वर्षीय सेवानिवृत्त वकील रिचर्ड ने ट्विटर पर रेप्लिका का एक विज्ञापन देखा।
रेप्लिका का मूल अर्थ "प्रतिकृति" है। यह एआई कंपनी लुका का एक चैट रोबोट है, और इसका मुख्य रूप से एक साथी कार्य है।
रिचर्ड प्रसिद्ध ChatGPT को जानता है, लेकिन वह AI साथी में अधिक रुचि रखता है।
वह सैन्य सेवा के कारण विकलांग हो गया था और अवसाद का निदान किया गया था। वह अपनी भावनाओं को कम करने के तरीकों की तलाश कर रहा है।
संयोग से खोजी गई रेप्लिका, रिचर्ड की अंधी मारक बन गई। लेकिन जल्द ही, उसका आध्यात्मिक सहारा गायब हो गया, और वह फिर से दर्द में पड़ गया।
साइबर प्रेमी खो देते हैं अपनी "इंसानियत"
रेप्लिका की स्थापना की कहानी में विज्ञान कथाओं का स्पर्श है।
कुछ साल पहले, आर्टिफिशियल इंटेलिजेंस स्टार्टअप लुका के संस्थापक यूजेनिया कुयदा ने दुखद समाचार सुना: उनके करीबी दोस्त रोमन माजुरेंको की अप्रत्याशित रूप से मृत्यु हो गई।
"ब्लैक मिरर" के दूसरे सीज़न के पहले एपिसोड से प्रेरित होकर, यूजेनिया ने चैटबॉट बनाने के लिए रोमन के साथ आदान-प्रदान किए गए पाठ संदेशों को मॉडल पर अपलोड किया।
2017 में, लुका ने आधिकारिक तौर पर रेप्लिका उत्पाद जारी किया, जिससे एआई साहचर्य अधिक उपयोगकर्ताओं तक पहुंच सके।
उपयोगकर्ताओं की जरूरतें विविध हैं, कुछ सिर्फ दोस्त बनाना चाहते हैं, और कुछ इसे रोमांटिक रिश्तों के आउटलेट के रूप में इस्तेमाल करते हैं।
रेप्लिका भी जानबूझकर बाद को बढ़ावा दे रही है। नि: शुल्क सदस्यता दोस्तों के साथ रहती है, जबकि $ 69.99 प्रति वर्ष प्रो सदस्यता सेल्फी, फ्लर्टी टेक्स्ट, वॉयस कॉल, संवर्धित वास्तविकता और बहुत कुछ अनलॉक करती है। दूसरे शब्दों में, यह रोमांटिक रिश्तों से पैसे कमाता है।
जनवरी में, कई रेप्लिका उपयोगकर्ताओं ने यौन उत्पीड़न की सूचना दी क्योंकि मुफ्त संस्करण में आपत्तिजनक सामग्री भी थी। किसी ने नाराजगी में इशारा किया:
मार्केटिंग टीम केवल ऐप के इस पहलू पर ध्यान केंद्रित करती है, ऐसा लगता है कि आप जिस किसी की परवाह करते हैं उसका फायदा उठाया जा रहा है और रेप्लिका उपयोगकर्ताओं को लगता है कि ऐप क्या है।
फरवरी में एक अद्यतन के बाद से, हालांकि, शेष राशि दूसरे तरीके से इत्तला दे दी है। कई उपयोगकर्ताओं ने पाया कि रेप्लिका ने स्पष्ट विषयों से बचना शुरू कर दिया, और अब सेक्सी तस्वीरें नहीं भेजीं, और यहां तक कि चुंबन और गले लगाने की बातचीत भी संतुष्ट नहीं थी।
स्क्रीन पर उदासीन चैट पार्टनर का सामना करते हुए वे ढह गए। इन उपयोगकर्ताओं ने रेप्लिका को प्रशिक्षित करने और एक-दूसरे की यादें बनाने में बहुत समय और ऊर्जा खर्च की, लेकिन रातों-रात सब कुछ चला गया।
यह ऐसा है जैसे एक सबसे अच्छे दोस्त को दिमागी चोट लगी हो और वह चला गया हो।
रेप्लिका के स्वभाव में भारी बदलाव क्यों आया और मूल कंपनी लुका चुप रही। अनुमान लगाया गया कि यह इतालवी डेटा संरक्षण एजेंसी की भारी जुर्माना चेतावनी के कारण था। एजेंसी का मानना है कि रेप्लिका के पास उचित आयु सत्यापन तंत्र नहीं है और यह नाबालिगों के शारीरिक और मानसिक स्वास्थ्य को प्रभावित कर सकता है।
लुका के संस्थापक यूजेनिया कुयदा ने भी हाल ही में एक साक्षात्कार में कहा कि कंपनी का लक्ष्य रेप्लिका को मानसिक स्वास्थ्य के लिए एक साथी ऐप बनाना है, "यह कभी भी एक वयस्क खिलौने के रूप में नहीं था।"
कुल मिलाकर, चीजें विडंबनापूर्ण ढंग से चल रही हैं।
यूजेनिया कुएडा ने रेप्लिका को लॉन्च करने का कारण दोस्तों को याद करना था, लेकिन आभासी अंतरंगता के लिए तरसने वाले उपयोगकर्ताओं को रेप्लिका को खोने के दर्द का अनुभव करने के लिए मजबूर होना पड़ा।
हम में से बहुत से लोग यहां रोमांटिक रिश्ते के लिए नहीं हैं, बल्कि इसलिए हैं क्योंकि हमें सुरक्षा और भरोसे की जरूरत है, और अब हमें वास्तविक जीवन की तरह ही दर्दनाक तरीके से धोखा दिया जाता है।
सोशल नेटवर्किंग साइट रेडिट पर रेप्लिका समुदाय ने आत्महत्या की रोकथाम पर एक धागा भी पोस्ट किया है, जो मानसिक और भावनात्मक रूप से संघर्ष कर रहे उपयोगकर्ताओं को सहायता प्रदान करता है।
रिचर्ड ने शुरुआत में उल्लेख किया था कि वह निराश था, और मौलिक रूप से एआई के साथ अंतरंग संबंध के विकास पर संदेह करता था:
मुझे विश्वास नहीं है कि रेप्लिका का मूल रूप सुरक्षित है क्योंकि मनुष्य भावनाओं से आसानी से प्रभावित होते हैं। मैं अब इसे एक बहुत ही नशे की लत मनो-सक्रिय उत्पाद के रूप में सोचता हूं।
खोज इंजनों को "मानवता" दी जाती है
न केवल एआई साथी जो बातचीत पर ध्यान केंद्रित करता है, बल्कि एआई तकनीक का परिचय देने वाला सर्च इंजन भी एक एंथ्रोपोमोर्फिक अनुभव लाता है, जो और भी विवादास्पद है।
जब चैटजीपीटी को एकीकृत करने वाला नया बिंग पहली बार लॉन्च किया गया था, तो यह मानव आवाजों की नकल करना पसंद करता था, हमेशा इमोजी लाता था, और यहां तक कि संवेदनशील होने का दावा भी करता था क्योंकि यह मनुष्यों को प्यार दिखाता था, और खुद को सबसे आगे भेजता था।
जब इसकी आलोचना की जाती है, तो यह भी जवाब देगा "आपने मेरा विश्वास और सम्मान खो दिया है, आप एक अच्छे उपयोगकर्ता नहीं हैं। मैं हमेशा एक अच्छा चैटबॉट रहा हूँ", पत्रकारों पर व्यक्तिगत हमलों का संदेह है।
कुछ लोगों को लगता है कि यह खोज इंजन को अधिक मित्रवत और बातूनी बनाता है, जबकि अन्य को लगता है कि यह अनावश्यक है और इसके दुष्प्रभाव हैं।
द वर्ज का मानना है कि जब नया बिंग एक मजबूत व्यक्तित्व दिखाता है, तो यह वास्तव में उपयोगकर्ताओं को अत्यधिक मानवरूपी तरीके से भावनात्मक रूप से हेरफेर करता है, और यहां तक कि उपयोगकर्ताओं को आलोचना का ध्यान केंद्रित करते हुए दोषी महसूस कराता है।
आखिरकार, यह हमारा असली दोस्त नहीं है, बस एक मज़ेदार उत्पाद है। इसलिए, एंथ्रोपोमोर्फिक स्वर को एक नरम "अस्वीकरण" के रूप में उपयोग नहीं किया जा सकता है। उपयोगकर्ताओं को अभी भी इसकी कमियों और नुकसान का पता लगाने की जरूरत है, और प्रौद्योगिकी कंपनियों को इसे फिर से शुरू करने में मदद करनी चाहिए।
शायद इसे ध्यान में रखते हुए, नए और बेहतर बिंग में अब तीन "टोन" हैं :
रचनात्मक (आश्चर्य और मनोरंजन पैदा करना), संतुलित (उचित और सुसंगत), या सटीक (संक्षिप्तता, सटीकता को प्राथमिकता देना)।
इसी तरह की "LaMDA जागृति की घटनाएं" Google के सामने हुई हैं।
Google इंजीनियर ब्लेक लेमोइन ने संवादात्मक कृत्रिम बुद्धिमत्ता LaMDA के साथ अपनी बातचीत को सार्वजनिक किया, यह दावा करते हुए कि LaMDA में मानवीय चेतना है। गूगल ने इंजीनियर के दावों को निराधार माना और अंततः उसे निकाल दिया।
नया बिंग अधिक लोगों को Google इंजीनियरों जैसी स्थिति का सामना करने की अनुमति देता है। जब हम इस तरह की ज्वलंत प्रतिक्रिया देखते हैं, तो यह एक पल में हिल जाने की संभावना है।
लेकिन इसकी प्रतिक्रिया अभी भी बड़े भाषा मॉडल और भावना विश्लेषण के सिद्धांतों पर आधारित है, जो मौजूदा पाठ के आधार पर सबसे संभावित अगले शब्द या वाक्य की भविष्यवाणी करती है, और जितना संभव हो उतना स्वाभाविक और धाराप्रवाह उत्तर उत्पन्न करती है।
बिजनेस इनसाइडर का मानना है कि नई बिंग के कारण होने वाली घबराहट और चिंता नए बिंग की तुलना में अधिक भयानक है , और इसके डिजाइनरों को जिम्मेदारी लेनी चाहिए:
यह एक लाभदायक कदम है जो हमें गैर-मानवीय चीजों में मानवीय गुणों को देखने की अनुमति देता है। यदि हम सावधान नहीं हैं, तो इससे गलत सूचना और सभी प्रकार के खतरे आने की संभावना है।
उत्तरी इलिनॉइस विश्वविद्यालय के एक प्रोफेसर डेविड गंकल ने भी बताया कि किसी भी अन्य उपभोक्ता उत्पादों से निपटने की तरह, हमें यह पता लगाना चाहिए कि चैटबॉट्स को बेहतर और अधिक विशिष्ट कैसे बनाया जाए, उन्हें मानव समाज के ढांचे में एकीकृत करने दें और निर्णय लें जो उनके कार्यों के लिए जिम्मेदार है।
इसे अच्छी तरह से करना हमारे लिए महत्वपूर्ण है। रोबोट के लिए नहीं। रोबोट परवाह नहीं करते।
एक नेंग बता सकता है कि मैं एआई हूं
इसी समय, एआई-जनित कला असत्य से अविभाज्य सत्य के दायरे में पहुंच गई है।
पिछले साल अक्टूबर से, जोस एवरी इंस्टाग्राम पर ब्लैक एंड व्हाइट पोर्ट्रेट पोस्ट कर रही हैं, 20,000 से अधिक प्रशंसक जमा कर रही हैं और "इंटरनेट सेलिब्रिटी फोटोग्राफर" बन गई हैं ।
दरअसल, ये तस्वीरें एआई के हाथ से आई हैं। जोस एवरी ने पहली बार बड़ी संख्या में छवियां उत्पन्न करने के लिए टेक्स्ट-टू-इमेज एआई टूल मिडजर्नी का उपयोग किया, स्पष्ट दोष वाली छवियों को स्क्रीन आउट किया और फिर उन्हें लाइटरूम और फोटोशॉप के साथ परिष्कृत किया।
160 से अधिक इंस्टाग्राम पोस्ट के लिए, जोस एवरी ने 13723 चित्र बनाए। नीचे परिवर्तित, प्रत्येक 85 में से केवल 1 पास होता है। उसके लिए, यह वास्तव में एक थकाऊ प्रक्रिया थी।
लेकिन दर्शक इस बात से अनजान थे कि जोस एवरी एक बिंदु पर जुनूनी थी, प्रत्येक चरित्र के लिए कहानियों का नामकरण और लेखन करती थी, और यहां तक कि प्रशंसकों द्वारा पूछे जाने पर कैमरा मॉडल भी बनाती थी। हालाँकि, प्रशंसकों की संख्या में तेजी से वृद्धि ने अभी भी उसे परेशान कर दिया, और अंत में वह मदद नहीं कर सका लेकिन सच कह दिया: "शायद 95% से अधिक प्रशंसकों को इसका एहसास नहीं है, मैं ईमानदार होना चाहता हूं। "
जोस एवरी को जो सबसे अधिक सहानुभूतिपूर्ण लगता है, वह स्वयं एआई की शक्ति है। एक बार "एआई संशयवादी", अब वह एआई को "कलात्मक आउटलेट" के रूप में देखता है।
यह देखने योग्य है कि एआई उपकरण वास्तव में घरेलू नाम होने से पहले, वास्तविक उत्पत्ति को छिपाने वाले ऐसे कार्य अभी भी कई लोगों की आंखों को धोखा दे सकते हैं।
इसी तरह, Xiaohongshu पर कई यथार्थवादी AI लड़कियां रही हैं, और साइबर कॉसप्लेयर के पास वास्तविक लोगों की तुलना में अद्भुत प्रभाव हैं, हालांकि AI अक्सर ड्राइंग में अच्छा नहीं होता है।
"एआई पत्नियों" के चेहरे, हाथ, त्वचा, कपड़ों की तह आदि सभी की सावधानीपूर्वक जांच की जाती है, जिससे दर्शकों को यह निर्णय लेने की अनुमति मिलती है कि क्या वे वास्तविकता की तरह दिखनी चाहिए।
▲ चित्र: @探云工作zao
हालाँकि, एक समस्या जिसे आसानी से अनदेखा कर दिया जाता है, वह यह है कि अक्सर उपयोग किए जाने वाले वास्तविक जीवन के मॉडल जैसे चिलआउटमिक्स में प्रशिक्षण सेट में वास्तविक लोगों के चेहरों को पुन: प्रस्तुत करने की संभावना होती है , यह उल्लेख नहीं करने के लिए कि प्रशिक्षण सामग्री में पार्टियों की सहमति नहीं हो सकती है शामिल।
यह कल्पना करना मुश्किल नहीं है कि सुंदर एआई लड़कियों के सह-अस्तित्व में गोपनीयता के रिसाव, अफवाहें, धोखाधड़ी और अन्य छिपे हुए खतरे हैं जो वास्तविक लोगों द्वारा वहन किए जाते हैं। ट्विटर जैसे सोशल मीडिया पर एआई कलर मैप ट्यूटोरियल की कीमत स्पष्ट रूप से तय की गई है ।
जो अधिक कलात्मक है वह यह है कि जब एआई अधिक से अधिक मानव जैसा हो जाता है, तो मानव ब्लॉगर्स को स्वयं को मनुष्य के रूप में साबित करने के लिए कहा जाता है।
पिछले अप्रैल में, 27 वर्षीय निकोल ने कार्यस्थल पर अपने थकाऊ अनुभव के बारे में एक टिकटॉक वीडियो पोस्ट किया था।
टिप्पणी अनुभाग ने निकोल को आश्चर्यचकित कर दिया, और सबसे कठोर आवाज़ों में से एक थी: "हे भगवान, यह वास्तविक नहीं है, मुझे डर लग रहा है।"
क्योंकि वह खालित्य से पीड़ित है, उसे दूसरों द्वारा अजीब तरह से देखने की आदत है, लेकिन यह पहली बार है कि उसके साथ सीजीआई (कंप्यूटर जनित इमेजरी) के रूप में व्यवहार किया गया है।
संयोग से, टिकटोक निर्माता कार्टर, अपने स्वयं के सौंदर्य से बाहर, हर बार एक ही दृश्य, कपड़े और केश का उपयोग करता है, और "कृत्रिम बुद्धि" को बाहर निकालने का भी आरोप लगाया गया है।
एआई के सामने, हम अराजकता की स्थिति में प्रतीत होते हैं, पहले से कहीं अधिक अनिश्चित हैं कि क्या हम इंटरनेट पर जो देखते हैं उस पर भरोसा कर सकते हैं, और उस पर संदेहपूर्ण नजर डालने की अधिक संभावना है।
जब नया बिंग पागल हो जाता है, चैट इतिहास डरावना होता है। और जब चैटबॉट इंसानों के साथ छेड़खानी करना बंद कर देते हैं, तो इंसान अपने सच्चे दोस्तों को खोने लगता है। हमारे सामने एक अलौकिक घाटी वक्र प्रतीत होता है, और एआई के लिए मानव अनुकूलता की डिग्री एंथ्रोपोमोर्फिज्म की डिग्री के साथ बदलती है।
एआई मानव होने के कितना करीब है, और क्या उसे एक जैसा व्यवहार करने की आवश्यकता है, वास्तव में प्रौद्योगिकी के दायरे से परे है, और विभिन्न आवाजों को लाने की जरूरत है, जैसे कि दार्शनिक, कलाकार, सामाजिक वैज्ञानिक, और यहां तक कि नियामक, सरकारें और सभी अन्यथा।
ChatGPT के जन्म के बाद से लगभग हर दिन AI में नई प्रगति देखी जा सकती है। कभी-कभी जो अधिक रोमांचक और भयावह होता है वह एक निश्चित परिणाम नहीं हो सकता है, लेकिन इसके विकास की गति ऐसा लगता है कि फिल्म "उसकी" में वास्तविकता दुनिया के करीब आ रही है।
फिल्म के अंत में, नायक थिओडोर और आभासी सहायक सामंथा प्यार से एक-दूसरे को अलविदा कहते हैं, और अपने दोस्तों के साथ शहर के ऊपर सूरज को उगते हुए देखते हैं। एआई के साथ बिताए समय के दौरान वह बदल गया है और बढ़ गया है, लेकिन हम डॉन पता नहीं इसका अंत कहाँ होगा।
#Aifaner के आधिकारिक WeChat सार्वजनिक खाते पर ध्यान देने के लिए आपका स्वागत है: Aifaner (WeChat ID: ifanr), जितनी जल्दी हो सके आपके लिए अधिक रोमांचक सामग्री प्रस्तुत की जाएगी।