ChatGPT और इसी तरह के AI-संचालित चैटबॉट्स को लेकर उत्साह के बावजूद, टेक्स्ट-आधारित टूल में अभी भी कुछ गंभीर मुद्दे हैं जिन्हें हल करने की आवश्यकता है।
उनमें सामान बनाने और इसे तथ्य के रूप में प्रस्तुत करने की उनकी प्रवृत्ति है जब उन्हें किसी पूछताछ का उत्तर नहीं पता होता है, एक ऐसी घटना जिसे "मतिभ्रम" के रूप में जाना जाता है। जैसा कि आप कल्पना कर सकते हैं, शक्तिशाली चैटबॉट्स की नई लहर का उपयोग करने वाले किसी व्यक्ति के सामने झूठ को तथ्य के रूप में प्रस्तुत करने के गंभीर परिणाम हो सकते हैं।
हाल ही की एक घटना में इस तरह की परेशानी को उजागर किया गया था जिसमें न्यूयॉर्क शहर के एक अनुभवी वकील ने मामलों का हवाला दिया – चैटजीपीटी द्वारा सुझाया गया – जो कभी नहीं हुआ। वकील को उसकी कार्रवाई के परिणामस्वरूप प्रतिबंधों का सामना करना पड़ सकता है।
एक अन्य घटना ने अप्रैल में व्यापक रूप से ध्यान आकर्षित किया जब चैटजीपीटी ने स्पष्ट रूप से यह कहते हुए इतिहास को फिर से लिखा कि एक ऑस्ट्रेलियाई मेयर को बैंक के लिए काम करते समय रिश्वतखोरी के लिए जेल में डाल दिया गया था जबकि वास्तव में वह इस मामले में व्हिसलब्लोअर था।
अपनी चैटबॉट तकनीक को और अधिक विश्वसनीय बनाने के लिए, OpenAI इंजीनियरों ने खुलासा किया है कि वे वर्तमान में इन समस्याग्रस्त घटनाओं को कम करने और उम्मीद से खत्म करने के लिए इसके सॉफ़्टवेयर में सुधार करने पर ध्यान केंद्रित कर रहे हैं।
बुधवार को जारी एक शोध पत्र में और CNBC द्वारा उठाया गया , OpenAI ने कहा कि चैटबॉट्स "अनिश्चितता के क्षणों में तथ्यों का आविष्कार करने की प्रवृत्ति प्रदर्शित करते हैं," जोड़ते हुए: "ये मतिभ्रम विशेष रूप से उन डोमेन में समस्याग्रस्त हैं जिनके लिए एकल तार्किक के बाद से बहु-चरणीय तर्क की आवश्यकता होती है। त्रुटि बहुत बड़े समाधान को पटरी से उतारने के लिए पर्याप्त है।
चैटबॉट के गलत कदमों से निपटने के लिए, OpenAI के इंजीनियर अपने AI मॉडल के लिए तरीकों पर काम कर रहे हैं ताकि केवल निष्कर्ष के बिंदु पर खुद को पुरस्कृत करने के बजाय उत्तर की ओर बढ़ते समय सही डेटा आउटपुट करने के लिए खुद को पुरस्कृत किया जा सके। इंजीनियरों के अनुसार, प्रणाली बेहतर परिणाम दे सकती है क्योंकि इसमें मानव-जैसी श्रृंखला-विचार प्रक्रिया शामिल है।
लेकिन कुछ विशेषज्ञों ने काम के बारे में संदेह व्यक्त किया, सीएनबीसी को बताया कि जब तक इसे चैटजीपीटी में शामिल नहीं किया जाता है, तब तक इसका कोई फायदा नहीं होता है, जो इस बीच मतिभ्रम को जारी रखेगा। OpenAI ने यह नहीं कहा है कि क्या और कब वह अपने काम को अपने जनरेटिव AI टूल्स में शामिल कर सकता है।
हालाँकि यह जानना अच्छा है कि OpenAI समस्या को हल करने के लिए काम कर रहा है, फिर भी हमें कोई सुधार देखने में कुछ समय लग सकता है। इस बीच, जैसा कि OpenAI स्वयं कहता है, ChatGPT कभी-कभी गलत जानकारी उत्पन्न कर सकता है, इसलिए यदि वे किसी महत्वपूर्ण कार्य का हिस्सा हैं तो इसकी प्रतिक्रियाओं की पुष्टि करना सुनिश्चित करें।