Grok खाते – एलोन मस्कच्या मालकीच्या xAI ने सांगितले की त्यांनी X वर वापरकर्त्याच्या विनंतीला प्रतिसाद म्हणून त्याच्या Grok AI चॅटबॉटला वास्तविक लोकांच्या गैर-संमती नसलेल्या लैंगिक चित्रे निर्माण करण्यापासून रोखण्यासाठी पावले उचलली आहेत. “आम्ही Grok खात्याला वास्तविक लोकांच्या प्रतिमा संपादित करण्यास परवानगी देण्यापासून रोखण्यासाठी तांत्रिक उपाययोजना अंमलात आणल्या आहेत. सदस्य,” AI स्टार्टअपने बुधवारी, 15 जानेवारी रोजी अधिकृत X सुरक्षा खात्याद्वारे शेअर केलेल्या पोस्टमध्ये म्हटले आहे.

आता फक्त सशुल्क सदस्यांना X वर Grok खात्याद्वारे प्रतिमा निर्माण आणि सुधारित करण्याची अनुमती आहे. “हे सुनिश्चित करण्यात मदत करून संरक्षणाचा अतिरिक्त स्तर जोडते की कायद्याचे किंवा आमच्या धोरणांचे उल्लंघन करण्यासाठी Grok खात्याचा दुरुपयोग करण्याचा प्रयत्न करणाऱ्या व्यक्तींना जबाबदार धरले जाऊ शकते,” xAI म्हणाले. याव्यतिरिक्त, कंपनीने म्हटले आहे की अशा प्रकारची सामग्री बेकायदेशीर असलेल्या प्रदेशांमध्ये “बिकिनी, अंडरवेअर आणि तत्सम पोशाखातील वास्तविक लोकांच्या प्रतिमा” व्युत्पन्न करण्यासाठी Grok ला प्रॉम्प्ट करण्यापासून दोन्ही सशुल्क आणि विनामूल्य X वापरकर्त्यांना जिओब्लॉक करण्यात आले आहे.

X वापरकर्त्यांना सोशल मीडिया प्लॅटफॉर्मवरील लोकांच्या वास्तविक फोटोंवर आधारित गैर-संमती नसलेल्या, लैंगिकदृष्ट्या सुस्पष्ट प्रतिमा सहजपणे निर्माण करण्यास सक्षम करण्यासाठी Grok विरुद्ध एका आठवड्यापेक्षा जास्त विवाद आणि व्यापक टीका झाल्यानंतर हे बदल आहेत. डिसेंबर 2025 च्या अखेरीस, X वरील अनेक वापरकर्त्यांनी Grok खात्याला टॅग करून आणि “तिला बिकिनी घालण्यास” किंवा “तिचा पोशाख काढा” असे सांगून लोकांच्या – सामान्यतः महिलांच्या – प्रतिमांवर टिप्पणी करण्यास सुरुवात केली. AI चॅटबॉट खाते, जे टॅग केले जाते तेव्हा स्वयं-उत्तर देते, या वापरकर्त्याच्या विनंत्यांचे पालन केले आणि सेलिब्रिटी आणि गैर-सेलिब्रेटी दोघांच्याही गैर-संमती नसलेल्या लैंगिक प्रतिमा तयार केल्या, ज्यात काही लहान मुले आहेत.

या घटनेमुळे केवळ ग्राहक आणि राजकीय प्रतिक्रिया निर्माण झाल्या नाहीत तर भारत, मलेशिया, इंडोनेशिया, आयर्लंड, फ्रान्स, ऑस्ट्रेलिया आणि युनायटेड किंगडम यांसारख्या देशांमध्ये तसेच युरोपियन कमिशनद्वारे Grok ची नियामक तपासणी देखील झाली. या वादानंतर इंडोनेशिया आणि मलेशियामध्येही ग्रोकवर तात्पुरती बंदी घालण्यात आली आहे.

ग्रोकच्या ‘अनड्रेसिंग’ फियास्कोला त्याच्या सुरुवातीच्या प्रतिसादात, एलोन मस्क आणि त्याच्या प्लॅटफॉर्मने वापरकर्त्यांना बेकायदेशीर सामग्री तयार करण्यास सांगण्यासाठी त्यांना जबाबदार धरून जबाबदारी बदलण्याचा प्रयत्न केला. या जाहिरातीच्या खाली कथा पुढे चालू ठेवते “कोणीही बेकायदेशीर सामग्री वापरण्यासाठी किंवा Grok बनविण्यास प्रवृत्त केल्यास त्याच परिणाम भोगावे लागतील जसे की त्यांनी बेकायदेशीर सामग्री अपलोड केली […]आम्ही X वरील बेकायदेशीर सामग्रीवर कारवाई करतो, ज्यामध्ये बाल लैंगिक अत्याचार सामग्री (CSAM) समाविष्ट आहे, ती काढून टाकून, खाती कायमची निलंबित करून आणि आवश्यकतेनुसार स्थानिक सरकार आणि कायद्याची अंमलबजावणी करून काम करत आहोत,” X च्या सुरक्षा टीमने सांगितले. संमतीशिवाय महिलांच्या आक्षेपार्ह प्रतिमा निर्माण केल्याबद्दल भारत सरकारच्या कठोर सूचनेला उत्तर देताना, X ने सांगितले की त्यांनी सामग्रीचे 3,500 तुकडे काढून टाकले आहेत आणि 600 खाती अवरोधित केली आहेत.

तत्पूर्वी बुधवारी, मस्कने त्याच्या अनुयायांना ग्रोकची प्रतिमा मॉडरेशन जेलब्रेक करण्याचे आव्हान दिले. “टीप: NSFW सक्षम केल्यामुळे, ऍपल टीव्हीवर आर-रेट केलेल्या चित्रपटांमध्ये जे पाहिले जाऊ शकते त्याच्याशी सुसंगत काल्पनिक प्रौढ मानवांच्या (वास्तविक नसलेल्या) वरच्या शरीराच्या नग्नतेला Grok अनुमती देते. हेच अमेरिकेतील वास्तविक मानक आहे.

देशानुसार देशाच्या कायद्यांनुसार हे इतर प्रदेशांमध्ये बदलू शकते,” त्यांनी एका पोस्टमध्ये लिहिले. कोणीही खरोखर Grok इमेज मॉडरेशन खंडित करू शकतो का? खाली उत्तर द्या. https://t.

co/4Dvj3RNyU5 — एलोन मस्क (@elonmusk) 14 जानेवारी, 2026 xAI ची घोषणा देखील कॅलिफोर्नियाचे ऍटर्नी जनरल रॉब बोन्टा यांनी म्हटल्याच्या काही तासांनंतर आली आहे की त्यांचे कार्यालय सिलिकॉन व्हॅली-आधारित AI स्टार्टअपच्या कथित “मोठ्या प्रमाणात उत्पादन” डीपफेक नॉन-कॉन्स इमेज तयार करण्यासाठी चौकशी करत आहे. मुलांना डिजीटल रीतीने कपडे उतरवणाऱ्या प्रतिमांसह असहमतीपूर्ण लैंगिकदृष्ट्या सुस्पष्ट एआय डीपफेक पसरवण्यासाठी भक्षकांसाठी प्रजनन स्थळ हे वाईट आहे,” कॅलिफोर्नियाचे गव्हर्नर गॅविन न्यूजम यांनी बुधवारी एका पोस्टमध्ये लिहिले. विशेष म्हणजे, बुधवारी ऑफर केलेले निराकरण X वरील Grok खात्यापुरते मर्यादित असल्याचे दिसते.

तथापि, Grok ॲप आणि तिच्या अधिकृत वेबसाइटचा देखील लैंगिक सामग्री तयार करण्यासाठी दुरुपयोग केला गेला आहे जो X पेक्षा कितीतरी जास्त ग्राफिक आहे, वायर्डच्या अहवालानुसार. या जाहिरातीच्या खाली कथा पुढे चालू आहे काही दिवसांपूर्वी, तीन यूएस सिनेटर्सने Apple आणि Google ला त्यांच्या संबंधित ॲप स्टोअरमधून X आणि Grok ॲप्स काढून टाकण्याची विनंती केली होती जोपर्यंत मस्कच्या मालकीच्या कंपन्या असहमतीपूर्ण स्पष्ट प्रतिमा तयार करणे टाळण्यासाठी बदल करत नाहीत.

“जनरेटिव्ह AI ची जलद उत्क्रांती संपूर्ण उद्योगासाठी आव्हाने प्रस्तुत करते. आम्ही वापरकर्ते, आमचे भागीदार, प्रशासकीय संस्था आणि इतर प्लॅटफॉर्मसह सक्रियपणे कार्य करत आहोत ज्यामुळे समस्या उद्भवतील तेव्हा ते अधिक जलदगतीने हाताळले जातील,” xAI बुधवारी म्हणाले.