ग्रोक, एलोन मस्क के स्वामित्व वाली एक्सएआई द्वारा विकसित एआई चैटबॉट, एआई चैटबॉट पर महिलाओं और कम उम्र की लड़कियों की कामुक, गैर-सहमति वाली छवियां उत्पन्न करने पर बढ़ते विरोध के बीच एक बार फिर दुनिया भर के नियामकों की नाराजगी का कारण बन रहा है। कई हफ्तों की गहन आलोचना और जांच के बाद, एक्सएआई ने मंगलवार, 6 जनवरी को घोषणा की कि उसने एनवीडिया, फिडेलिटी मैनेजमेंट एंड रिसोर्स कंपनी, कतर के सॉवरेन वेल्थ फंड और वेलोर इक्विटी पार्टनर्स जैसे प्रमुख निवेशकों के साथ अपने नवीनतम फंडिंग दौर में 20 बिलियन डॉलर जुटाए हैं। एक्सएआई की एक प्रेस विज्ञप्ति के अनुसार, सीरीज़ ई फंडिंग राउंड कथित तौर पर एआई स्टार्टअप के शुरुआती $ 15 बिलियन के लक्ष्य को पार कर गया है, जिसमें ग्रोक की इमेज-जेनरेशन सुविधा, जिसे ग्रोक इमेजिन के रूप में जाना जाता है, को “अत्याधुनिक मल्टीमॉडल समझ” के साथ “लाइटिंग-फास्ट” के रूप में बताया गया है। दिसंबर 2025 के अंत में, एक्स पर कई उपयोगकर्ताओं ने लोगों की छवियों पर टिप्पणी करना शुरू कर दिया – आमतौर पर महिलाएं – ग्रोक को टैग करके और चैटबॉट से “उसे बिकनी में डालने” या “लेने” के लिए कहा। उसकी पोशाक उतारो”।

एआई चैटबॉट, जो टैग किए जाने पर ऑटो-रिप्लाई करता है, ने इन उपयोगकर्ता अनुरोधों का अनुपालन किया और मशहूर हस्तियों और गैर-सेलिब्रिटी दोनों की गैर-सहमति वाली यौन छवियां बनाईं, जिनमें कुछ छोटे बच्चे भी शामिल थे। जवाब में, एक्सएआई ने उपयोगकर्ताओं पर पूरी तरह से दायित्व डालने की मांग की है, चेतावनी दी है कि जो लोग ग्रोक को अवैध सामग्री उत्पन्न करने के लिए संकेत देते हैं, उन्हें एक्स पर अवैध सामग्री अपलोड करने वालों के समान परिणाम भुगतने होंगे। मंच की सुरक्षा टीम ने आगे कहा, “हम बाल यौन शोषण सामग्री (सीएसएएम) सहित एक्स पर अवैध सामग्री के खिलाफ कार्रवाई करते हैं, इसे हटाते हैं, खातों को स्थायी रूप से निलंबित करते हैं, और आवश्यकतानुसार स्थानीय सरकारों और कानून प्रवर्तन के साथ काम करते हैं।”

हालाँकि, एक्स के खिलाफ नियामक कार्रवाई पर विचार करने वाले देशों की सूची लगातार बढ़ रही है। यहां देखें कि विभिन्न क्षेत्रों के नियामकों ने नवीनतम ग्रोक घटना पर कैसे प्रतिक्रिया दी है। विशेष रूप से, संयुक्त राज्य अमेरिका में कानून निर्माता और नियामक निकाय, जहां एक्सएआई का मुख्यालय है, ने अभी तक इस मुद्दे पर टिप्पणी नहीं की है।

इस विज्ञापन के नीचे कहानी जारी है मलेशिया मलेशिया के डिजिटल नियामक ने कहा कि वह “वर्तमान में एक्स में ऑनलाइन नुकसान की जांच कर रहा है।” जिसने कहा है कि वह एक्स पर यौन रूप से स्पष्ट डीपफेक के प्रसार की जांच करेगा।

पोलिटिको की एक रिपोर्ट के अनुसार, देश के डिजिटल मामलों के कार्यालय ने कहा कि मंत्रियों ने “स्पष्ट रूप से अवैध सामग्री” को “तत्काल हटाने के लिए” एक सरकारी ऑनलाइन निगरानी मंच पर भी रिपोर्ट की। नियामकों को यह तय करने के लिए भी कहा गया है कि क्या छवियां यूरोपीय संघ के डिजिटल सेवा अधिनियम (डीएसए) का उल्लंघन करती हैं, जो कि एक्स जैसे ऑनलाइन मध्यस्थों द्वारा सामग्री के संचालन को नियंत्रित करने के लिए विधायी ढांचा है। इस विज्ञापन के नीचे कहानी जारी है, महिलाओं की सहमति के बिना, महिलाओं की आपत्तिजनक तस्वीरें और वीडियो बनाने के लिए ग्रोक के दुरुपयोग पर ध्यान देते हुए, आईटी मंत्रालय ने कहा कि उसने एक्स को एक निर्देश भेजा है, जिसने सोशल मीडिया प्लेटफॉर्म पर देश के कानूनों का पालन नहीं करने का आरोप लगाया और लागू करने में एक्स की “गंभीर विफलता” पर लाल झंडे उठाए। सुरक्षा उपाय.

आईटी मंत्रालय ने शुक्रवार, 2 जनवरी को सोशल मीडिया कंपनी के मुख्य अनुपालन अधिकारी को भेजे गए नोटिस में कहा, “आपके द्वारा विकसित और एक्स प्लेटफॉर्म पर एकीकृत और उपलब्ध कराए गए ग्रोक एआई का उपयोगकर्ताओं द्वारा अपमानजनक या अश्लील तरीके से महिलाओं की अश्लील छवियों या वीडियो को होस्ट करने, बनाने, प्रकाशित करने या साझा करने के लिए फर्जी अकाउंट बनाने के लिए दुरुपयोग किया जा रहा है।” ग्रोक एआई, इसके भारत के मुख्य अनुपालन अधिकारी द्वारा निभाई गई भूमिका और निरीक्षण, और आपत्तिजनक सामग्री, उपयोगकर्ताओं और खातों के खिलाफ कंपनी द्वारा की गई कार्रवाई। इसने कंपनी को ग्रोक एआई की एक व्यापक तकनीकी, प्रक्रियात्मक और शासन-स्तरीय समीक्षा करने का भी निर्देश दिया, जिसमें इसकी त्वरित-प्रसंस्करण, आउटपुट पीढ़ी, और छवि हैंडलिंग और सुरक्षा रेलिंग शामिल है, “यह सुनिश्चित करने के लिए कि एप्लिकेशन ऐसी सामग्री उत्पन्न, बढ़ावा या सुविधा प्रदान नहीं करता है जिसमें नग्नता, कामुकता, यौन रूप से स्पष्ट या अन्यथा गैरकानूनी सामग्री शामिल है”।

इस विज्ञापन के नीचे कहानी जारी है यूरोपीय संघ यूरोपीय आयोग ने सोमवार, 5 जनवरी को कहा कि पूरे देश में साझा की जा रही निर्वस्त्र महिलाओं और बच्चों की तस्वीरें गैरकानूनी और भयावह थीं। यह कहते हुए कि आयोग इस तथ्य से अवगत था कि एक्स उपयोगकर्ताओं को ‘मसालेदार मोड’ की पेशकश कर रहा था, यूरोपीय आयोग के प्रवक्ता थॉमस रेग्नियर ने कहा, “यह मसालेदार नहीं है। यह अवैध है।

यह भयावह है. यह घृणित है.

हम इसे इसी तरह देखते हैं, और यूरोप में इसका कोई स्थान नहीं है। यूनाइटेड किंगडम के ब्रिटिश नियामक ऑफकॉम ने सोमवार को कहा कि उसने एक्स से यह बताने के लिए कहा है कि ग्रोक कैसे लोगों की नग्न तस्वीरें और बच्चों की कामुक तस्वीरें बनाने में सक्षम था, और क्या वह उपयोगकर्ताओं की सुरक्षा करने के अपने कानूनी कर्तव्य में विफल हो रहा था।

एक प्रवक्ता ने कहा, “हमने यह समझने के लिए एक्स और एक्सएआई से तत्काल संपर्क किया है कि उन्होंने यूके में उपयोगकर्ताओं की सुरक्षा के लिए अपने कानूनी कर्तव्यों का पालन करने के लिए क्या कदम उठाए हैं।” यूके के प्रौद्योगिकी सचिव लिज़ केंडल ने भी मंगलवार, 6 जनवरी को ग्रोक के डीपफेक की निंदा की। रॉयटर्स की एक रिपोर्ट के अनुसार, एआई-जनरेटेड हाइपर-यथार्थवादी यौन कल्पना सहित गैर-सहमति वाली अंतरंग छवियां या बाल यौन शोषण सामग्री बनाना या साझा करना ब्रिटेन में अवैध है।

इसके अतिरिक्त, सोशल मीडिया प्लेटफ़ॉर्म उपयोगकर्ताओं को अवैध सामग्री का सामना करने से रोकने के लिए कदम उठाने और इसके बारे में जागरूक होने पर इसे हटाने के लिए कानूनी रूप से बाध्य हैं। इस विज्ञापन के नीचे कहानी जारी है जर्मनी ग्रोक-जनरेटेड, यौन रूप से स्पष्ट डीपफेक पर मस्क के एक्स प्लेटफॉर्म के खिलाफ कानूनी कार्रवाई करने के लिए यूरोपीय संघ से आह्वान करने वाला जर्मनी नवीनतम देश है।

जर्मन मीडिया मंत्री वोल्फ्राम वीमर ने मंगलवार, 6 जनवरी को यूरोपीय आयोग से एक्स पर होने वाले “यौन उत्पीड़न के औद्योगीकरण” को रोकने के लिए कानूनी कार्रवाई करने का आग्रह किया। “वर्तमान में हम एक्स पर जो देख रहे हैं वह यौन उत्पीड़न के औद्योगिकीकरण जैसा दिखता है।

अब यह महत्वपूर्ण है कि यूरोपीय संघ आयोग इस (कानूनी ढांचे) को उतनी ही सख्ती से लागू करना जारी रखे जितनी पहले ही शुरू हो चुकी है,” रॉयटर्स ने वीमर के हवाले से कहा। जर्मनी के डिजिटल मंत्रालय, जो संघीय नेटवर्क नियामक के माध्यम से डीएसए प्रवर्तन के लिए जिम्मेदार है, ने कहा कि वह कानून का अनुपालन सुनिश्चित करने के लिए प्रतिबद्ध है और सभी से अपने रिपोर्टिंग अधिकारों का उपयोग करने का आग्रह किया है।

“वर्तमान में चुनौती मुख्य रूप से विभिन्न – कुछ मामलों में नए – अधिकारों को अधिक लगातार लागू करना और वास्तव में उनका उपयोग करना है। जो कोई भी सहमति के बिना ऐसी छवियां बनाता या वितरित करता है, वह व्यक्तिगत अधिकारों का गंभीर उल्लंघन कर रहा है और कई मामलों में अभियोजन के लिए उत्तरदायी हो सकता है,” एक मंत्रालय के प्रवक्ता ने रॉयटर्स के हवाले से कहा।