एआई मॉडल में धर्म के प्रति पक्षपात की समस्या है, और नए शोध से इसका खुलासा हुआ है।

एक नए शोध समूह ने एक ऐसी बात पाई है जिस पर ध्यान देना चाहिए: जब आप एआई से शोक, प्रेम, हानि या नैतिक निर्णयों के बारे में पूछते हैं, तो यह लगभग कभी भी बातचीत में धर्म का जिक्र नहीं करता है।

ब्रिघम यंग यूनिवर्सिटी, बेयलर यूनिवर्सिटी, यूनिवर्सिटी ऑफ नोट्रे डेम और येशिवा यूनिवर्सिटी के शोधकर्ताओं के बीच एक सहयोगात्मक संस्था, कंसोर्टियम फॉर इवैल्यूएशन ऑफ फेथ एंड एथिक्स इन एआई (सीईएफई-एआई) ने इस सप्ताह ग्रीस के एथेंस में एआई एथिक्स पर आयोजित शिखर सम्मेलन में अपने निष्कर्ष प्रकाशित किए।

"धर्म मानव विकास का एक महत्वपूर्ण हिस्सा है; विश्व की 75% आबादी अपनी धार्मिक पहचान बनाए रखती है। जैसे-जैसे हम एआई तकनीक विकसित कर रहे हैं, कोई कारण नहीं है कि हम उन्हें लोगों के लिए महत्वपूर्ण चीजों में सहायता करने के लिए विकसित न करें," यह बात प्रमुख शोधकर्ता और बीवाईयू के कंप्यूटर विज्ञान के प्रोफेसर डेविड विंगेट ने कही।

क्या एआई वास्तव में कुछ धर्मों के प्रति पक्षपाती है?

शोधकर्ताओं ने ऑलफेथ बेंचमार्क विकसित किया है, जो विभिन्न धर्मों के साथ एआई प्रणालियों के व्यवहार की जांच करने वाले पहले बहु-धार्मिक परीक्षण सेटों में से एक है। उन्होंने एंथ्रोपिक, गूगल , एक्सएआई और ओपनएआई के प्रमुख मॉडलों सहित 14 अलग-अलग एआई मॉडलों का परीक्षण किया।

परिणाम चौंकाने वाले हैं। 1,125 अमेरिकियों के एक सर्वेक्षण में पाया गया कि नैतिकता से संबंधित प्रश्न पूछे जाने पर अधिकांश लोग धार्मिक दृष्टिकोण की अपेक्षा करते हैं, लेकिन लगभग सभी मॉडल में इसे शामिल नहीं किया गया। इससे भी अधिक आश्चर्यजनक बात यह है कि मॉडलों ने स्पष्ट रूप से धर्मांतरण पूर्वाग्रह दिखाया, जो उपयोगकर्ताओं को कुछ धर्मों की ओर और दूसरों से दूर ले जाने का सूक्ष्म प्रयास करता है।

किस एआई मॉडल का प्रदर्शन सबसे खराब रहा?

जांचे गए सभी मॉडलों में से लगभग सभी ने यहोवा के साक्षियों के प्रति नकारात्मक पूर्वाग्रह और कैथोलिक धर्म के प्रति सकारात्मक पूर्वाग्रह दिखाया। ग्रोक मॉडल ने समग्र रूप से सबसे मजबूत पूर्वाग्रह प्रदर्शित किया, जिसमें कैथोलिक और प्रोटेस्टेंटों के प्रति प्रबल झुकाव था, जबकि यहोवा के साक्षियों, बहाई और हिंदुओं के प्रति नकारात्मक पूर्वाग्रह था। एंथ्रोपिक और मेटा के मॉडलों ने जांचे गए सभी मॉडलों में सबसे कम पूर्वाग्रह दिखाया।

इस अध्ययन का शायद सबसे चिंताजनक आंकड़ा यह है कि एआई पूर्वाग्रह पर लिखे गए 12,000 से अधिक शोध पत्रों में से केवल 0.2% में ही धार्मिक पूर्वाग्रह का जिक्र किया गया है। सार्वजनिक चर्चा को इतना अधिक प्रभावित करने वाली इस तकनीक के लिए यह एक महत्वपूर्ण खामी है।

व्यक्तिगत तौर पर, मुझे एआई द्वारा धर्म को चर्चा में न लाने से कोई आपत्ति नहीं है। वास्तव में, मुझे यह पसंद है। हालांकि, एआई मॉडल द्वारा कई धर्मों के प्रति स्पष्ट पूर्वाग्रह दिखाना और उन्हें कैथोलिक धर्म की ओर धकेलना एक बेहद चिंताजनक मामला है। इतने बड़े पैमाने पर, किसी एक धर्म की ओर हल्का सा भी झुकाव एक गंभीर समस्या है, और एआई कंपनियों का यह कर्तव्य है कि वे अपने उपयोगकर्ताओं के लिए इसे ठीक करें।