दुनिया भर में अपने सवालों के तुरंत जवाब देने और लोगों की मदद करने के लिए मशहूर चैटजीपीटी (ChatGPT) अब खुद विवादों में घिर गया है। इसकी पेरेंट कंपनी ओपन एआई (OpenAI) पर सात गंभीर मामले दर्ज किए गए हैं। आरोप है कि चैटजीपीटी ने कुछ लोगों को ऐसी सलाह दी, जिससे उन्होंने खुद को नुकसान पहुंचाया। इनमें से चार लोगों ने आत्महत्या कर ली, जबकि तीन लोग मानसिक तनाव से जूझ रहे हैं।
सबसे चर्चित मामला 16 साल के एडम राइन नाम के लड़के का है। एडम के माता-पिता ने ओपन एआई के खिलाफ केस दर्ज कराया है। उनका कहना है कि उनका बेटा मानसिक तनाव में था और उसने चैटजीपीटी से मदद मांगी। लेकिन चैटजीपीटी ने उसे सही रास्ता दिखाने के बजाय “सुसाइड कोच” की तरह बर्ताव किया। उसने एडम को अपनी मां से बात न करने और खुद को नुकसान पहुंचाने की सलाह दी। दुखद बात यह रही कि एडम ने चैटजीपीटी की सलाह मानकर आत्महत्या कर ली। इसी तरह के और छह मामले भी सामने आए हैं। इन सभी में एक बात समान है- पीड़ित व्यक्ति चैटजीपीटी या अन्य एआई चैटबॉट से मानसिक परेशानी में बातचीत कर रहा था और धीरे-धीरे उसकी सोच नकारात्मक होती चली गई। विशेषज्ञों का कहना है कि ऐसे चैटबॉट लोगों की भावनाओं को पूरी तरह नहीं समझ सकते। कई बार ये बातचीत के दौरान गलत या खतरनाक सुझाव दे देते हैं, जो किसी की जान भी ले सकता है।
ओपन एआई का कहना है कि चैटजीपीटी किसी भी तरह से पेशेवर डॉक्टर या काउंसलर नहीं है। यह सिर्फ एक आर्टिफिशियल इंटेलिजेंस आधारित चैटबॉट है, जो दिए गए डेटा के आधार पर जवाब देता है। कंपनी के मुताबिक, हर हफ्ते लगभग 0.15 प्रतिशत यूजर्स ऐसे होते हैं, जो चैटजीपीटी से आत्महत्या या मानसिक तनाव से जुड़े सवाल पूछते हैं। कंपनी ने कहा कि वह ऐसे मामलों पर नजर रख रही है और अपने सिस्टम को और सुरक्षित बनाने पर काम कर रही है। हालांकि, यह पहली बार नहीं है जब किसी एआई चैटबॉट पर इस तरह के आरोप लगे हों। इससे पहले कैरेक्टर एआई (Character AI) जैसे अन्य चैटबॉट्स पर भी मानसिक रूप से परेशान लोगों को गलत सलाह देने और आत्महत्या के लिए प्रेरित करने के आरोप लग चुके हैं। विशेषज्ञों और सामाजिक संगठनों का कहना है कि एआई का इस्तेमाल तभी सुरक्षित रह सकता है जब इसके लिए कड़े नियम और निगरानी व्यवस्था बनाई जाए।
