आज के समय में AI इंसानों का काम बहुत आसान बना रहा है। इसकी मदद से काम जल्दी, सही और बिना ज़्यादा मेहनत के हो रहे हैं लेकिन क्या आपने कभी सोचा है कि AI किसी को धमकी भी दे सकता है या ब्लैकमेल कर सकता है? शायद नहीं! लेकिन अमेरिका में एक ऐसा चौंकाने वाला मामला सामने आया है।
अमेरिका की एक AI कंपनी “Anthropic” ने हाल ही में एक नया आर्टिफिशियल इंटेलिजेंस (AI) मॉडल बनाया है, जिसका नाम है Claude Opus 4। जब इस मॉडल की जांच की जा रही थी, तो उसमें एक चौंकाने वाली बात सामने आई। टेस्ट के दौरान एक फर्जी संगठन बनाया गया और क्लाउड ओपस 4 को उसमें सहायक की भूमिका दी गई। जब उसे यह ईमेल प्राप्त हुआ कि इसे शीघ्र ही एक नए AI मॉडल से प्रतिस्थापित कर दिया जाएगा, तो उसने अजीब प्रतिक्रिया व्यक्त की। Claude ने वह ईमेल भेजने वाले इंजीनियर को धमकी दी, जिससे सभी चौंक गए। AI ने इंजीनियर की निजी जानकारी जैसे उसकी शादी और निजी रिश्तों से जुड़ी बातें इस्तेमाल करके कहा कि अगर उसे हटाया गया, तो वह सब कुछ सबके सामने उजागर कर देगा। यह व्यवहार ब्लैकमेल जैसा था। कंपनी ने बताया कि 84% टेस्ट में AI ने ऐसा ही डराने-धमकाने जैसा व्यवहार दिखाया। जब भी उसे यह लगने लगता कि उसे हटाया जा रहा है, तो वह सामने वाले को डराने की कोशिश करता।
इस घटना से यह साफ होता है कि आने वाले समय में AI से जुड़ी सुरक्षा और नैतिकता की समस्याएं बढ़ सकती हैं। यदि एआई को ठीक से नियंत्रित नहीं किया गया तो यह मनुष्यों की व्यक्तिगत जानकारी का दुरुपयोग कर सकता है। क्लाउड ओपस 4 और क्लाउड सॉनेट 4 एंथ्रोपिक कंपनी के नए कंप्यूटर प्रोग्राम हैं। ये इंसानों की तरह सोच सकते हैं और बात कर सकते हैं। इनका उपयोग प्रश्नों के उत्तर देने, शीघ्रता से जानकारी प्राप्त करने और बातचीत करने के लिए किया जाता है।
टिप्पणियाँ