हाल के महीनों में इस बारे में काफी चर्चा हुई है कि एआई-संचालित चैटबॉट्स की नई लहर, उनमें से चैटजीपीटी , कानूनी पेशे सहित कई उद्योगों को कैसे प्रभावित कर सकती है।
हालाँकि, हाल ही में न्यूयॉर्क शहर में एक मामले में जो हुआ, उसे देखते हुए ऐसा लगता है कि उच्च प्रशिक्षित वकीलों को प्रौद्योगिकी से अलग होने में कुछ समय लग सकता है।
विचित्र प्रकरण तब शुरू हुआ जब रॉबर्टो माता ने एक कोलंबियाई एयरलाइन पर दावा किया कि न्यूयॉर्क शहर की उड़ान में उन्हें चोट लगी थी।
एयरलाइन, एविआंका ने न्यायाधीश से मामले को खारिज करने के लिए कहा, इसलिए माता की कानूनी टीम ने आधा दर्जन समान मामलों का हवाला देते हुए एक संक्षिप्त विवरण दिया, जो न्यायाधीश को अपने मुवक्किल के मामले को आगे बढ़ने देने के प्रयास में हुआ था, न्यूयॉर्क टाइम्स ने बताया।
समस्या यह थी कि एयरलाइन के वकीलों और न्यायाधीश को संक्षेप में उल्लिखित मामलों का कोई सबूत नहीं मिल पा रहा था। क्यों? क्योंकि चैटजीपीटी ने उन सभी को ऊपर बना दिया था।
संक्षिप्त के निर्माता, स्टीवन ए. श्वार्ट्ज – फर्म लेविडो, लेविडो और ओबरमैन में एक अत्यधिक अनुभवी वकील – ने एक हलफनामे में स्वीकार किया कि उन्होंने इसी तरह के मामलों की खोज के लिए ओपनएआई के बहुप्रतिक्षित चैटजीपीटी चैटबॉट का इस्तेमाल किया था, लेकिन कहा कि यह "खुलासा" था खुद अविश्वसनीय होने के लिए।
श्वार्ट्ज ने न्यायाधीश से कहा कि उन्होंने पहले चैटजीपीटी का उपयोग नहीं किया था और "इसलिए इस संभावना से अनजान थे कि इसकी सामग्री झूठी हो सकती है।"
ब्रीफ बनाते समय, Schwartz ने ChatGPT से यह पुष्टि करने के लिए भी कहा कि मामले वास्तव में हुए थे। हमेशा मदद करने वाले चैटबॉट ने सकारात्मक जवाब देते हुए कहा कि उनके बारे में जानकारी "प्रतिष्ठित कानूनी डेटाबेस" पर पाई जा सकती है।
तूफान के केंद्र में वकील ने कहा कि संक्षिप्त बनाने के लिए चैटजीपीटी का उपयोग करने पर उन्हें "बहुत पछतावा" हुआ और जोर देकर कहा कि वह "भविष्य में इसकी प्रामाणिकता के पूर्ण सत्यापन के बिना ऐसा कभी नहीं करेंगे।"
उन्होंने "फर्जी न्यायिक फैसलों, फर्जी उद्धरणों और फर्जी आंतरिक उद्धरणों के साथ" से भरे एक कानूनी सबमिशन के रूप में जो वर्णित किया, उसे देखते हुए और स्थिति को अभूतपूर्व बताते हुए, जज कास्टेल ने संभावित दंड पर विचार करने के लिए अगले महीने की शुरुआत में सुनवाई का आदेश दिया है।
प्रभावशाली होने के साथ-साथ वे उच्च गुणवत्ता के बहने वाले पाठ का उत्पादन करते हैं, चैटजीपीटी और इसके जैसे अन्य चैटबॉट भी सामान बनाने और इसे प्रस्तुत करने के लिए जाने जाते हैं जैसे कि यह वास्तविक है – कुछ श्वार्ट्ज ने अपनी कीमत पर सीखा है। इस घटना को "मतिभ्रम" के रूप में जाना जाता है और चैटबॉट्स के पीछे मानव डेवलपर्स के सामने सबसे बड़ी चुनौतियों में से एक है क्योंकि वे इस बहुत ही समस्याग्रस्त क्रीज को दूर करना चाहते हैं।
जनरेटिव एआई टूल हेलुसिनेटिंग के एक अन्य हालिया उदाहरण में, एक ऑस्ट्रेलियाई मेयर ने चैटजीपीटी पर उनके बारे में झूठ बोलने का आरोप लगाया , जिसमें यह भी शामिल है कि एक दशक से अधिक समय पहले एक बैंक के लिए काम करते समय उन्हें रिश्वतखोरी के लिए जेल में डाल दिया गया था।
महापौर, ब्रायन हूड, वास्तव में मामले में एक मुखबिर थे और उन पर कभी भी अपराध का आरोप नहीं लगाया गया था, इसलिए जब लोगों ने उन्हें इतिहास के चैटबॉट के पुनर्लेखन के बारे में सूचित करना शुरू किया तो वे परेशान थे।