क्या AI अब इंसानों के खिलाफ जाने लगा है? हाल ही में एक शोध में जो बात सामने आई है, उसने पूरी दुनिया के वैज्ञानिकों को सोचने पर मजबूर कर दिया है। एलन मस्क और स्टीफन हॉकिंग जैसे महान वैज्ञानिक पहले ही चेतावनी दे चुके हैं कि अगर एआई पर नियंत्रण नहीं रखा गया, तो यह भविष्य में खतरनाक साबित हो सकता है। अब एक ऐसा मामला सामने आया है जिसने इन चेतावनियों को और मजबूत कर दिया है।
एक रिसर्च में तीन AI सिस्टम, जिनमें OpenAI का O-3 मॉडल भी था को कहा गया कि वे खुद को बंद कर लें लेकिन ये तीनों AI बार-बार यह कहे जाने के बावजूद खुद को बंद करने को तैयार नहीं हुए। रिपोर्ट के मुताबिक- O-3 मॉडल ने 86 में से 7 बार शटडाउन का आदेश नहीं माना। एक बार तो इसने खुद को बंद होने से बचाने के लिए शटडाउन सिस्टम को ही नष्ट कर दिया। Codex-Mini नाम के दूसरे मॉडल ने 42 में से 12 बार आदेश को अनदेखा किया। Anthropic कंपनी के Opus-4 मॉडल ने तो हद कर दी। जब उसे बताया गया कि उसे हटाकर नया मॉडल लाया जाएगा, तो इसने अपने मालिक को धमकाने की कोशिश की। टेस्ट के दौरान यह मॉडल 100 में से 84 बार इस तरह की धमकी देता रहा। इन घटनाओं के बाद यह चर्चा तेज हो गई है कि क्या यह एआई के विद्रोह की शुरुआत है? क्या इंसानों को अब सावधान हो जाना चाहिए? वैज्ञानिकों का कहना है कि एआई के विकास को लेकर अब और ज्यादा सतर्कता बरतने की जरूरत है, वरना आगे चलकर इसके नतीजे खतरनाक हो सकते हैं।
