नई दिल्ली: एलन मस्क के एआई चैटबॉट ग्रोक को लेकर दुनियाभर में विरोध तेज हो गया है। इस विरोध की मुख्य वजह Grok द्वारा सेक्शुअलाइज्ड डीपफेक तस्वीरें बनाना है। इन कामुक और अश्लील तस्वीरों के गलत इस्तेमाल को लेकर पूरी दुनिया चिंतित है। भारत ने भी इसे लेकर अपनी चिंता जताई है व ग्रोक को नोटिस भी भेजा है। इंडोनेशिया और मलेशिया पहले ऐसे देश बन गए हैं जिन्होंने ग्रोक (Grok) को प्रतिबंधित कर दिया है। इस प्लेटफॉर्म का इस्तेमाल अब इन देशों में नहीं हो सकेगा।
भारत ने भी इसे लेकर सख्ती बरती और फौरन X को AI से बनाए गए अश्लील कंटेंट को हटाने और कार्रवाई के निर्देश दिए। सरकार के दखल के बाद X ने देश में लगभग 3,500 पोस्ट हटा दिए हैं। 600 से अधिक ऐसे अकाउंट्स को बंद कर दिया है जो अश्लील तस्वीरों का प्रचार और प्रसार कर रहे थे। X ने भारत को यह भरोसा दिलाया है कि आगे से इस प्लेटफॉर्म पर अश्लील तस्वीरों का प्रचार रोका जाएगा। आइए पांच बिंदुओं के जरिए Grok से जुड़े इस पूरे विवाद को समझते हैं।
1. सोशल मीडिया प्लेटफॉर्म X पर ग्रोक विवाद
ग्रोक एआई चैटबॉट है। इसे एलन मस्क की कंपनी xAI ने बनाया है। इसे X से जोड़ा गया है। यह AI चैटबॉट उस समय विवादों में आया जब यूजर्स ने इसके इमेज टूल्स का इस्तेमाल करके कामुक और अश्लील तस्वीरें बनाना शुरू कर दिया। यह विवाद तब और अधिक बढ़ गया जब X पर वायरल ‘अनड्रेसिंग ट्रेंड’ सुर्खियों में आया और यूजर्स ने ग्रोक के जरिए लोगों की अश्लील तस्वीरें बनाना शुरू कर दिया। ये तस्वीरें रियल लगने लगी और खूब वायरल होने लगी। बड़े-बड़े सेलिब्रिटी भी इस डिपफेक का शिकार हुए और विवाद बढ़ा। इस ट्रेंड के कारण महिलाएं और बच्चे टारगेट होने लगे। जिसके बाद इस AI चैटबॉट के दुरुपयोग के बारे में दुनियाभर में चिंता जताई जाने लगी।
2. ब्रिटेन ने की Grok की कड़ी आलोचना
यूरोप में भी Grok चैटबॉट की काफी आलोचना हुई। ब्रिटेन ने Grok AI से बनाई गई अश्लील तस्वीरों के प्रचार को शर्मनाक और अस्वीकार्य बताया। इसके साथ ही ब्रिटेन ने X को अपने प्लेटफॉर्म के जरिए अश्लील, गैर-कानूनी व हानिकारक कंटेंट फैलाने के लिए जवाबदेह ठहराया और कानूनी कार्रवाई की चेतावनी भी दी। इसके बाद यह विवाद और ज्यादा बढ़ा और कई अन्य देशों ने भी एलन मस्क के इस एआई चैटबॉट के खिलाफ मोर्चा खोला।
3. इंडोनेशिया और मलेशिया ने ग्रोक को किया ब्लॉक
इसके बाद कई दक्षिण-पूर्वी एशियाई देशों ने Grok के खिलाफ सख्त कदम उठाने की घोषणा की। मलेशिया और इंडोनेशिया ने X तक पहुंच को सस्पेंड कर दिया है क्योंकि उनके अनुसार यह प्लेटफॉर्म बिना सहमति के सेक्शुअल डीपफेक को रोकने में नाकाम रहा है। दोनों ही देशों ने ग्रोक को प्रतिबंधित कर दिया। इसे महिलाओं और नाबालिगों के लिए गंभीर खतरा भी बताया। इसके साथ ही कहा कि अश्लील तस्वीरें फैलाना राष्ट्रीय कानूनों का उल्लंघन है।
4. भारत ने भी X को भेजा नोटिस…600 से ज्यादा अकाउंट हुए डिलीट
भारत ने भी X के खिलाफ कड़ा रुख अपनाया। इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय ने Grok को अश्लील कंटेंट के लिए नोटिस भेजा। सरकार ने प्लेटफॉर्म से ऐसी सामग्री को तुरंत हटाने और 72 घंटों के भीतर सुधारात्मक कदमों पर एक रिपोर्ट जमा करने के लिए कहा। साथ ही महिलाओं की अपमानजनक और आपत्तिजनक तस्वीरें बनाने के लिए इस टूल के गलत इस्तेमाल पर चिंता जताई। इसके बाद X ने अपनी गलती स्वीकार की और 600 से अधिक अकाउंट डिलीट किए और लगभग 3,500 पोस्ट ब्लॉक किए। कंपनी ने अधिकारियों को यह भी भरोसा दिलाया कि वह भविष्य में ऐसी तस्वीरों की अनुमति नहीं देगी और भारतीय कानूनों के अनुसार मॉडरेशन को मजबूत करेगा।
5. X ने प्लेटफॉर्म पर इमेज जेनरेशन पर रोक लगाई
बढ़ते वैश्विक दबाव के तहत X ने अपने प्लेटफॉर्म पर Grok के इमेज जेनरेशन और एडिटिंग फीचर्स को सिर्फ पैसे देने वाले यूजर्स तक सीमित कर दिया है। फ्री यूजर्स अभी भी xAI के स्टैंडअलोन ऐप और वेबसाइट के जरिए इस टूल का इस्तेमाल कर सकते हैं। हालांकि कंपनी का कहना है कि इस कदम का मकसद गलत इस्तेमाल को रोकना है। जबकि इस फीचर की आलोचना करने वालों का कहना है कि X ने यह कोई स्थायी समाधान नहीं दिया है। इससे अश्लील कंटेंट के प्रचार-प्रसार की समस्या हल नहीं हुई।
