एलोन मस्कच्या मालकीच्या xAI द्वारे विकसित केलेला AI चॅटबॉट Grok, AI चॅटबॉटवर महिला आणि अल्पवयीन मुलींच्या लैंगिक, गैर-सहमतीच्या प्रतिमा निर्माण करणाऱ्या AI चॅटबॉटच्या वाढत्या प्रतिक्रियेदरम्यान पुन्हा जगभरातील नियामकांचा संताप व्यक्त करत आहे. अनेक आठवड्यांच्या तीव्र टीका आणि छाननीनंतर, xAI ने मंगळवार, 6 जानेवारी रोजी जाहीर केले की, Nvidia, फिडेलिटी मॅनेजमेंट आणि रिसोर्स कंपनी, कतारचा सार्वभौम संपत्ती निधी आणि शौर्य इक्विटी पार्टनर्स यांसारख्या प्रमुख गुंतवणूकदारांच्या नवीनतम निधी फेरीत त्यांनी $20 अब्ज जमा केले आहेत. मालिका E निधी फेरीने कथितरित्या AI स्टार्टअपचे प्रारंभिक $15 अब्ज लक्ष्य ओलांडले आहे, xAI च्या एका प्रेस रीलिझनुसार, ज्यामध्ये Grok इमॅजिन म्हणून ओळखल्या जाणाऱ्या “लाइटनिंग-फास्ट” म्हणून ओळखल्या जाणाऱ्या प्रतिमा-जनरेशन वैशिष्ट्याला “अत्याधुनिक मल्टीमॉडल समज” सह “अत्याधुनिक मल्टीमॉडल समज” म्हणून देखील सांगितले आहे – 20 डिसेंबरच्या शेवटी, अनेक महिलांनी प्रतिमा 20 20 च्या शेवटी – महिलांनी टिप्पण्या देणे सुरू केले. ग्रोकला टॅग करणे आणि चॅटबॉटला “तिला बिकिनी घालायला” किंवा “तिचा ड्रेस काढायला” सांगणे.

AI चॅटबॉट, जो टॅग केल्यावर स्वयं-उत्तर देतो, या वापरकर्त्याच्या विनंत्यांचे पालन केले आणि सेलिब्रिटी आणि नॉन-सेलिब्रेटी दोघांच्याही गैर-संमती नसलेल्या लैंगिक प्रतिमा तयार केल्या, ज्यात काही लहान मुले आहेत. प्रतिसादात, xAI ने वापरकर्त्यांवरील दायित्व पूर्णपणे हलवण्याचा प्रयत्न केला आहे, अशी चेतावणी दिली आहे की जे Grok ला बेकायदेशीर सामग्री व्युत्पन्न करण्यास सांगणारे प्रॉम्प्ट सबमिट करतात त्यांना X वर बेकायदेशीर सामग्री अपलोड करणाऱ्या सारखेच परिणाम भोगावे लागतील. “आम्ही X वरील बेकायदेशीर सामग्री, बाल लैंगिक अत्याचार सामग्रीसह (CSAM) विरुद्ध कारवाई करतो, ती काढून टाकून, कायमस्वरूपी स्थानिक सरकारी खात्याला निलंबित करून, स्थानिक सरकारी खात्यांसह कायद्याची अंमलबजावणी करतो. सुरक्षा पथक पुढे म्हणाले.

तथापि, X विरुद्ध नियामक कारवाईचा विचार करणाऱ्या देशांची यादी वाढतच चालली आहे. विविध क्षेत्रांतील नियामकांनी नवीनतम Grok घटनेला कसा प्रतिसाद दिला ते येथे पहा. विशेष म्हणजे, युनायटेड स्टेट्समधील कायदे निर्माते आणि नियामक संस्था, जिथे xAI चे मुख्यालय आहे, अद्याप या विषयावर भाष्य केलेले नाही.

या जाहिरातीच्या खाली कथा पुढे चालू आहे मलेशिया मलेशियाच्या डिजिटल नियामकाने सांगितले की ते “सध्या X मधील ऑनलाइन हानीची चौकशी करत आहे.” एका निवेदनात, मलेशियन कम्युनिकेशन्स अँड मल्टीमीडिया कमिशनने म्हटले आहे की त्यांनी “कृत्रिम बुद्धिमत्ता (AI) टूल्सच्या गैरवापराबद्दल सार्वजनिक तक्रारींची गंभीर दखल घेतली आहे, विशेषत: महिला प्लॅटफॉर्मच्या डिजीटल प्रतिमा तयार करण्यासाठी Xipminors च्या डिजिटल प्रतिमा तयार करण्यासाठी. अत्यंत आक्षेपार्ह, आणि अन्यथा हानिकारक सामग्री ” फ्रान्स तीन फ्रेंच सरकारच्या मंत्र्यांनी पॅरिस अभियोजक कार्यालयात ग्रोकच्या आउटपुटला ध्वजांकित केले आहे, ज्याने असे म्हटले आहे की ते X वर लैंगिकरित्या स्पष्ट डीपफेक्सच्या प्रसाराची चौकशी करेल.

देशाच्या डिजिटल व्यवहार कार्यालयाने म्हटले आहे की, मंत्र्यांनी सरकारी ऑनलाइन पाळत ठेवणे प्लॅटफॉर्मवर “स्पष्टपणे बेकायदेशीर सामग्री” नोंदवली आहे जेणेकरून “ते त्वरित काढून टाकावे”, असे Politico च्या अहवालात म्हटले आहे. नियामकांना देखील हे ठरवण्यास सांगितले आहे की प्रतिमा युरोपियन युनियनच्या डिजिटल सेवा कायद्याचे (DSA), X सारख्या ऑनलाइन मध्यस्थांकडून सामग्री हाताळण्यावर नियंत्रण ठेवण्यासाठी कायदेशीर चौकट आहे. या जाहिरातीखाली कथा पुढे चालू आहे, भारत महिलांची आक्षेपार्ह चित्रे आणि व्हिडिओ तयार करण्यासाठी ग्रोकचा गैरवापर करत असल्याची दखल घेत, त्यांच्या संमतीशिवाय, X IT च्या थेट प्लॅटफॉर्मवर आरोप करणाऱ्या मंत्रालयाने सोशल मीडिया प्लॅटफॉर्मला पाठवले नाही. देशाच्या कायद्यांचे पालन करणे आणि सुरक्षिततेची अंमलबजावणी करण्यात X च्या “गंभीर अपयश” वर लाल झेंडे लावले.

“Grok AI तुम्ही विकसित केले आहे आणि X प्लॅटफॉर्मवर एकात्मिक आणि उपलब्ध करून दिले आहे, वापरकर्त्यांद्वारे महिलांची अश्लील प्रतिमा किंवा व्हिडिओ होस्ट करण्यासाठी, तयार करण्यासाठी, प्रकाशित करण्यासाठी किंवा शेअर करण्यासाठी बनावट खाती तयार करण्यासाठी त्यांचा गैरवापर केला जात आहे. X ला बुधवार, 7 जानेवारीपर्यंत तपशीलवार कारवाईचा अहवाल सादर करण्याचे निर्देश दिले, ज्यामध्ये X ने Grok AI संदर्भात अवलंबलेल्या विशिष्ट तांत्रिक आणि संस्थात्मक उपाय, त्याच्या भारताच्या मुख्य अनुपालन अधिकाऱ्याने वापरलेली भूमिका आणि देखरेख आणि कंपनीने आक्षेपार्ह सामग्री, वापरकर्ते आणि खात्यांविरुद्ध केलेली कारवाई यांचा समावेश आहे. तसेच कंपनीला Grok AI चा सर्वसमावेशक तांत्रिक, प्रक्रियात्मक आणि प्रशासन स्तरावर आढावा घेण्याचे निर्देश दिले आहेत, ज्यात त्याची त्वरित प्रक्रिया, आउटपुट जनरेशन, आणि प्रतिमा हाताळणी आणि सुरक्षा रेलिंगचा समावेश आहे, “ॲप्लिकेशनमध्ये नग्नता, लैंगिकता, लैंगिक कृत्य किंवा इतर गैर-कायदेशीर सामग्री असलेली सामग्री व्युत्पन्न, प्रचार किंवा सुविधा पुरवली जात नाही याची खात्री करण्यासाठी.

या जाहिरातीच्या खाली कथा सुरू आहे युरोपियन युनियन द युरोपियन कमिशनने सोमवार, 5 जानेवारी रोजी सांगितले की, कपडे न घातलेल्या महिला आणि मुलांच्या e वर शेअर केल्या जाणाऱ्या प्रतिमा बेकायदेशीर आणि भयंकर आहेत. X वापरकर्त्यांना ‘मसालेदार मोड’ ऑफर करत असल्याची कमिशनला जाणीव होती असे सांगून, युरोपियन कमिशनचे प्रवक्ते थॉमस रेग्नियर म्हणाले, “हे मसालेदार नाही. हे बेकायदेशीर आहे.

हे भयावह आहे. हे घृणास्पद आहे.

आपण हे कसे पाहतो आणि युरोपमध्ये याला स्थान नाही. युनायटेड किंगडम ब्रिटीश नियामक ऑफकॉमने सोमवारी सांगितले की त्यांनी X ला हे स्पष्ट करण्यास सांगितले आहे की ग्रोक लोकांच्या कपड्यांशिवाय आणि मुलांच्या लैंगिक प्रतिमा कशा तयार करू शकले आणि वापरकर्त्यांचे संरक्षण करण्याच्या कायदेशीर कर्तव्यात ते अपयशी ठरत आहे का.

“यूकेमधील वापरकर्त्यांचे संरक्षण करण्यासाठी त्यांनी त्यांच्या कायदेशीर कर्तव्यांचे पालन करण्यासाठी कोणती पावले उचलली आहेत हे समजून घेण्यासाठी आम्ही X आणि xAI शी त्वरित संपर्क साधला आहे,” प्रवक्त्याने सांगितले. यूकेचे तंत्रज्ञान सचिव लिझ केंडल यांनीही मंगळवार, 6 जानेवारी रोजी ग्रोकच्या डीपफेक्सचा निषेध केला. एआय-व्युत्पन्न हायपर-रिअलिस्टिक लैंगिक प्रतिमांसह गैर-सहमतीच्या अंतरंग प्रतिमा किंवा बाल लैंगिक शोषण सामग्री तयार करणे किंवा सामायिक करणे, ब्रिटनमध्ये बेकायदेशीर आहे, रॉयटर्सच्या अहवालानुसार.

याव्यतिरिक्त, सोशल मीडिया प्लॅटफॉर्म वापरकर्त्यांना बेकायदेशीर सामग्रीचा सामना करण्यापासून रोखण्यासाठी पावले उचलण्यास आणि त्यांना याची जाणीव झाल्यावर ते काढून टाकण्यासाठी कायदेशीररित्या बांधील आहेत. या जाहिरातीच्या खाली कथा पुढे चालू आहे जर्मनी EU ला Grok-व्युत्पन्न, लैंगिकदृष्ट्या स्पष्ट डीपफेकवर कायदेशीर कारवाई करण्यासाठी कॉल करणारा जर्मनी हा नवीनतम देश आहे.

जर्मन मीडिया मंत्री वोल्फ्राम वाइमर यांनी मंगळवार, 6 जानेवारी रोजी युरोपियन कमिशनला विनंती केली की त्यांनी X वर होत असलेल्या “लैंगिक छळाचे औद्योगिकीकरण” थांबवण्यासाठी कायदेशीर कारवाई करावी.

EU कमिशनने हे (कायदेशीर फ्रेमवर्क) पूर्वीपासून सुरू केल्याप्रमाणे कठोरपणे लागू करणे सुरू ठेवणे आता महत्त्वाचे आहे,” वायमरने रॉयटर्सला उद्धृत केले. फेडरल नेटवर्क रेग्युलेटरद्वारे DSA अंमलबजावणीसाठी जबाबदार असलेल्या जर्मनीच्या डिजिटल मंत्रालयाने सांगितले की ते कायद्याचे पालन सुनिश्चित करण्यासाठी वचनबद्ध आहे आणि प्रत्येकाला त्याच्या अधिकारांचा वापर करण्याचे आवाहन केले आहे.

“सध्याचे आव्हान प्रामुख्याने विविध – काही प्रकरणांमध्ये नवीन – अधिकारांची अधिक सुसंगतपणे अंमलबजावणी करणे आणि प्रत्यक्षात त्यांचा वापर करणे हे आहे. जो कोणी संमतीशिवाय अशा प्रतिमा तयार करतो किंवा वितरित करतो तो वैयक्तिक अधिकारांचे गंभीर उल्लंघन करत आहे आणि बऱ्याच प्रकरणांमध्ये खटला भरला जाऊ शकतो,” असे मंत्रालयाच्या प्रवक्त्याने रॉयटर्सद्वारे उद्धृत केले.