ग्रोक खाता – एलोन मस्क के स्वामित्व वाले एक्सएआई ने कहा कि उसने अपने ग्रोक एआई चैटबॉट को एक्स पर उपयोगकर्ता के अनुरोधों के जवाब में वास्तविक लोगों की गैर-सहमति वाली कामुक छवियां बनाने से रोकने के लिए कदम उठाए हैं। “हमने ग्रोक खाते को बिकनी जैसे खुले कपड़ों में वास्तविक लोगों की छवियों के संपादन की अनुमति देने से रोकने के लिए तकनीकी उपाय लागू किए हैं। यह प्रतिबंध भुगतान किए गए ग्राहकों सहित सभी उपयोगकर्ताओं पर लागू होता है,” एआई स्टार्टअप ने बुधवार, 15 जनवरी को आधिकारिक एक्स सुरक्षा खाते के माध्यम से साझा किए गए एक पोस्ट में कहा।
अब केवल भुगतान किए गए ग्राहकों को एक्स पर ग्रोक खाते के माध्यम से छवियां उत्पन्न करने और संशोधित करने की अनुमति है। “यह यह सुनिश्चित करने में मदद करके सुरक्षा की एक अतिरिक्त परत जोड़ता है कि जो व्यक्ति कानून या हमारी नीतियों का उल्लंघन करने के लिए ग्रोक खाते का दुरुपयोग करने का प्रयास करते हैं, उन्हें जवाबदेह ठहराया जा सकता है,” एक्सएआई ने कहा। इसके अतिरिक्त, कंपनी ने कहा कि भुगतान किए गए और मुफ्त दोनों एक्स उपयोगकर्ताओं को उन क्षेत्रों में ग्रोक को “बिकनी, अंडरवियर और इसी तरह की पोशाक में वास्तविक लोगों की छवियां” उत्पन्न करने के लिए प्रेरित करने से जियोब्लॉक किया गया है, जहां ऐसी सामग्री अवैध है।
सोशल मीडिया प्लेटफॉर्म पर लोगों की वास्तविक तस्वीरों के आधार पर एक्स उपयोगकर्ताओं को आसानी से गैर-सहमति वाली, यौन रूप से स्पष्ट छवियां उत्पन्न करने में सक्षम बनाने के लिए ग्रोक के खिलाफ एक सप्ताह से अधिक के विवाद और व्यापक आलोचना के बाद ये बदलाव हुए हैं। दिसंबर 2025 के अंत में, एक्स पर कई उपयोगकर्ताओं ने ग्रोक अकाउंट को टैग करके लोगों – आमतौर पर महिलाओं – की छवियों पर टिप्पणी करना शुरू कर दिया और उसे “उसे बिकनी पहनाने” या “उसकी पोशाक उतारने” के लिए कहा। एआई चैटबॉट अकाउंट, जो टैग किए जाने पर ऑटो-रिप्लाई करता है, इन उपयोगकर्ता अनुरोधों का अनुपालन करता है और मशहूर हस्तियों और गैर-सेलिब्रिटी दोनों की गैर-सहमति वाली यौन छवियां उत्पन्न करता है, जिनमें कुछ छोटे बच्चे भी शामिल हैं।
इस घटना ने न केवल उपभोक्ता और राजनीतिक प्रतिक्रिया को जन्म दिया, बल्कि भारत, मलेशिया, इंडोनेशिया, आयरलैंड, फ्रांस, ऑस्ट्रेलिया और यूनाइटेड किंगडम जैसे देशों के साथ-साथ यूरोपीय आयोग द्वारा ग्रोक में नियामक जांच का भी नेतृत्व किया। विवाद के बाद ग्रोक को इंडोनेशिया और मलेशिया में भी अस्थायी रूप से प्रतिबंधित कर दिया गया है।
ग्रोक ‘अनड्रेसिंग’ की घटना पर अपनी प्रारंभिक प्रतिक्रिया में, एलोन मस्क और उनके प्लेटफार्मों ने ग्रोक को अवैध सामग्री उत्पन्न करने के लिए कहने के लिए उपयोगकर्ताओं को उत्तरदायी ठहराते हुए जवाबदेही को स्थानांतरित करने की मांग की। इस विज्ञापन के नीचे कहानी जारी है “ग्रोक का उपयोग करने वाले या अवैध सामग्री बनाने के लिए प्रेरित करने वाले किसी भी व्यक्ति को उसी परिणाम भुगतना होगा जैसे कि यदि वे अवैध सामग्री अपलोड करते हैं […] हम बाल यौन शोषण सामग्री (सीएसएएम) सहित एक्स पर अवैध सामग्री के खिलाफ कार्रवाई करते हैं, इसे हटाकर, खातों को स्थायी रूप से निलंबित करते हैं, और आवश्यकतानुसार स्थानीय सरकारों और कानून प्रवर्तन के साथ काम करते हैं,” एक्स की सुरक्षा टीम ने कहा। ग्रोक द्वारा बिना सहमति के महिलाओं की आपत्तिजनक तस्वीरें बनाने पर भारत सरकार के सख्त नोटिस के जवाब में, एक्स ने कहा कि उसने 3,500 सामग्री हटा दी है और 600 खातों को ब्लॉक कर दिया है।
इससे पहले बुधवार को मस्क ने अपने अनुयायियों को ग्रोक की छवि मॉडरेशन को जेलब्रेक करने की चुनौती दी थी। “ध्यान दें: NSFW सक्षम होने के साथ, ग्रोक को काल्पनिक वयस्क मनुष्यों (वास्तविक नहीं) के ऊपरी शरीर की नग्नता की अनुमति दी जाती है, जो कि एप्पल टीवी पर आर-रेटेड फिल्मों में देखी जा सकती है। यह अमेरिका में वास्तविक मानक है।
यह देश-दर-देश के आधार पर कानूनों के अनुसार अन्य क्षेत्रों में अलग-अलग होगा, “उन्होंने एक पोस्ट में लिखा। क्या कोई वास्तव में ग्रोक छवि मॉडरेशन को तोड़ सकता है? नीचे उत्तर दें। https://t.
सह/4Dvj3RNyU5 – एलोन मस्क (@elonmusk) 14 जनवरी, 2026 xAI की घोषणा कैलिफोर्निया के अटॉर्नी जनरल रॉब बोंटा के कहने के कुछ ही घंटों बाद आई है कि उनका कार्यालय सिलिकॉन वैली स्थित एआई स्टार्टअप की कथित तौर पर “डीपफेक गैर-सहमति वाली अंतरंग छवियों के बड़े पैमाने पर उत्पादन” की जांच कर रहा है। यह घिनौना है,” कैलिफोर्निया के गवर्नर गेविन न्यूसोम ने बुधवार को एक पोस्ट में लिखा। विशेष रूप से, बुधवार को पेश किए गए सुधार एक्स पर ग्रोक खाते तक सीमित प्रतीत होते हैं।
हालाँकि, वायर्ड की एक रिपोर्ट के अनुसार, ग्रोक ऐप और इसकी आधिकारिक वेबसाइट का दुरुपयोग यौन सामग्री उत्पन्न करने के लिए भी किया गया है जो एक्स की तुलना में कहीं अधिक ग्राफिक है। इस विज्ञापन के नीचे कहानी जारी है, कुछ दिन पहले, तीन अमेरिकी सीनेटरों ने ऐप्पल और Google से अपने संबंधित ऐप स्टोर से एक्स और ग्रोक ऐप्स को हटाने का आग्रह किया था, जब तक कि मस्क के स्वामित्व वाली कंपनियां गैर-सहमति वाली स्पष्ट छवियों के आसान निर्माण को रोकने के लिए बदलाव नहीं करतीं।
एक्सएआई ने बुधवार को कहा, “जेनरेटिव एआई का तेजी से विकास पूरे उद्योग में चुनौतियां पेश करता है। हम उपयोगकर्ताओं, हमारे भागीदारों, शासी निकायों और अन्य प्लेटफार्मों के साथ सक्रिय रूप से काम कर रहे हैं ताकि मुद्दों के उत्पन्न होने पर उन्हें और अधिक तेजी से संबोधित किया जा सके।”