గ్రోక్, ఎలోన్ మస్క్ యాజమాన్యంలోని xAI చే అభివృద్ధి చేయబడిన AI చాట్‌బాట్, AI చాట్‌బాట్‌పై పెరుగుతున్న ఎదురుదెబ్బల మధ్య మహిళలు మరియు తక్కువ వయస్సు గల బాలికల లైంగికంగా, ఏకాభిప్రాయం లేని చిత్రాలను రూపొందిస్తున్న నేపథ్యంలో ప్రపంచవ్యాప్తంగా రెగ్యులేటర్ల ఆగ్రహాన్ని మళ్లీ ఆకర్షిస్తోంది. వారాల తీవ్ర విమర్శలు మరియు పరిశీలన తర్వాత, xAI మంగళవారం, జనవరి 6న ప్రకటించింది, Nvidia, ఫిడిలిటీ మేనేజ్‌మెంట్ మరియు రిసోర్స్ కంపెనీ, ఖతార్ యొక్క సావరిన్ వెల్త్ ఫండ్ మరియు వాలర్ ఈక్విటీ భాగస్వాములు వంటి ప్రముఖ పెట్టుబడిదారులను కలిగి ఉన్న తాజా నిధుల రౌండ్‌లో $20 బిలియన్లను సేకరించినట్లు ప్రకటించింది. సిరీస్ E ఫండింగ్ రౌండ్ AI స్టార్టప్ యొక్క ప్రారంభ $15 బిలియన్ల లక్ష్యాన్ని అధిగమించింది, xAI ద్వారా ఒక పత్రికా ప్రకటన ప్రకారం, ఇది Grok యొక్క ఇమేజ్-జెనరేషన్ ఫీచర్‌ను గ్రోక్ ఇమాజిన్‌గా “మెరుపు-వేగంగా” “అత్యాధునిక మల్టీమోడల్ అవగాహనతో” ప్రచారం చేసింది. గ్రోక్ మరియు చాట్‌బాట్‌ని “ఆమెను బికినీలో వేయమని” లేదా “ఆమె దుస్తులను తీసివేయమని” అడిగాడు.

ట్యాగ్ చేయబడినప్పుడు స్వయంచాలకంగా ప్రత్యుత్తరమిచ్చే AI చాట్‌బాట్, ఈ వినియోగదారు అభ్యర్థనలకు అనుగుణంగా ఉంది మరియు సెలబ్రిటీలు మరియు సెలబ్రిటీలు కాని వ్యక్తుల యొక్క ఏకాభిప్రాయం లేని లైంగిక చిత్రాలను రూపొందించింది, ఇందులో కొంతమంది చిన్నపిల్లలుగా కనిపించారు. ప్రతిస్పందనగా, XAI వినియోగదారులపై బాధ్యతను పూర్తిగా మార్చడానికి ప్రయత్నించింది, చట్టవిరుద్ధమైన కంటెంట్‌ను రూపొందించమని Grokని అభ్యర్థించే వారు Xలో చట్టవిరుద్ధమైన కంటెంట్‌ను అప్‌లోడ్ చేసిన వారితో సమానమైన పరిణామాలను ఎదుర్కోవలసి ఉంటుందని హెచ్చరించింది.

అయినప్పటికీ, Xకి వ్యతిరేకంగా నియంత్రణ చర్యల గురించి ఆలోచిస్తున్న దేశాల జాబితా పెరుగుతూనే ఉంది. తాజా గ్రోక్ సంఘటనపై వివిధ ప్రాంతాలలోని రెగ్యులేటర్‌లు ఎలా స్పందించారో ఇక్కడ చూడండి. ముఖ్యంగా, xAI ప్రధాన కార్యాలయం ఉన్న యునైటెడ్ స్టేట్స్‌లోని చట్టసభ సభ్యులు మరియు నియంత్రణ సంస్థలు ఈ సమస్యపై ఇంకా వ్యాఖ్యానించలేదు.

ఈ ప్రకటన క్రింద కథ కొనసాగుతోంది మలేషియా మలేషియా డిజిటల్ రెగ్యులేటర్ “ప్రస్తుతం X లో ఆన్‌లైన్ హానిని పరిశీలిస్తోంది” అని ఒక ప్రకటనలో, మలేషియా కమ్యూనికేషన్స్ అండ్ మల్టీమీడియా కమిషన్ ఒక ప్రకటనలో, “X ప్లాట్‌ఫారమ్‌లో కృత్రిమ మేధస్సు (AI) సాధనాల దుర్వినియోగంపై ప్రజల ఫిర్యాదులను తీవ్రంగా పరిగణించింది. హానికరమైన కంటెంట్. ” ఫ్రాన్స్ ముగ్గురు ఫ్రెంచ్ ప్రభుత్వ మంత్రులు గ్రోక్ యొక్క అవుట్‌పుట్‌లను పారిస్ ప్రాసిక్యూటర్ కార్యాలయానికి ఫ్లాగ్ చేశారు, ఇది X పై లైంగిక అసభ్యకరమైన డీప్‌ఫేక్‌ల విస్తరణపై దర్యాప్తు చేస్తుందని తెలిపింది.

పొలిటికో నివేదిక ప్రకారం, “తక్షణమే తొలగించడం కోసం” మంత్రులు ప్రభుత్వ ఆన్‌లైన్ నిఘా ప్లాట్‌ఫారమ్‌కు “వ్యతిరేకమైన చట్టవిరుద్ధమైన కంటెంట్”ని నివేదించారని దేశ డిజిటల్ వ్యవహారాల కార్యాలయం తెలిపింది. ఈ చిత్రాలు యూరోపియన్ యూనియన్ డిజిటల్ సర్వీసెస్ యాక్ట్ (DSA)ని ఉల్లంఘిస్తున్నాయో లేదో కూడా నిర్ణయించాల్సిందిగా రెగ్యులేటర్‌లను కోరింది. X వంటి ఆన్‌లైన్ మధ్యవర్తుల ద్వారా కంటెంట్ నిర్వహణకు సంబంధించిన చట్టబద్ధమైన ఫ్రేమ్‌వర్క్. ఈ ప్రకటన దిగువన స్టోరీ కొనసాగుతోంది. భారతదేశం గ్రోక్ మహిళల అభ్యంతరకరమైన చిత్రాలు మరియు వీడియోలను రూపొందించడానికి దుర్వినియోగం చేయబడిందని గమనించండి దేశ చట్టాలకు కట్టుబడి మరియు రక్షణలను అమలు చేయడంలో X యొక్క “తీవ్ర వైఫల్యం”పై ఎర్ర జెండాలు ఎగురవేశారు.

“మీరు అభివృద్ధి చేసిన మరియు X ప్లాట్‌ఫారమ్‌లో ఇంటిగ్రేట్ చేసి అందుబాటులోకి తెచ్చిన Grok AI, మహిళలను అసభ్యకరంగా కించపరిచేలా అసభ్యకరమైన లేదా అసభ్యకరమైన రీతిలో అశ్లీల చిత్రాలు లేదా వీడియోలను హోస్ట్ చేయడానికి, రూపొందించడానికి, ప్రచురించడానికి లేదా భాగస్వామ్యం చేయడానికి నకిలీ ఖాతాలను సృష్టించడానికి వినియోగదారులు దుర్వినియోగం చేస్తున్నారు” అని ఐటి మంత్రిత్వ శాఖ శుక్రవారం నివేదికను సమర్పించింది. బుధవారం, జనవరి 7 నాటికి, గ్రోక్ AIకి సంబంధించి X ద్వారా అవలంబించిన నిర్దిష్ట సాంకేతిక మరియు సంస్థాగత చర్యలు, దాని భారతదేశ చీఫ్ కంప్లైయన్స్ ఆఫీసర్ ద్వారా నిర్వహించబడే పాత్ర మరియు పర్యవేక్షణ మరియు అభ్యంతరకరమైన కంటెంట్, వినియోగదారులు మరియు ఖాతాలకు వ్యతిరేకంగా కంపెనీ తీసుకున్న చర్యలను కవర్ చేస్తుంది. Grok AI యొక్క ప్రాంప్ట్-ప్రాసెసింగ్, అవుట్‌పుట్ జనరేషన్ మరియు ఇమేజ్ హ్యాండ్లింగ్ మరియు సేఫ్టీ గార్డ్‌రైల్‌లతో సహా సమగ్ర సాంకేతిక, విధానపరమైన మరియు పాలన-స్థాయి సమీక్షను చేపట్టాలని కంపెనీని ఆదేశించింది, “అప్లికేషన్ నగ్నత్వం, లైంగికత లేదా ఇతర లైంగిక అసభ్యకరమైన కంటెంట్‌ను కలిగి ఉన్న కంటెంట్‌ను రూపొందించడం, ప్రోత్సహించడం లేదా సులభతరం చేయడం లేదని నిర్ధారించడానికి.

ఈ ప్రకటన క్రింద కథ కొనసాగుతోంది యూరోపియన్ యూనియన్ జనవరి 5, సోమవారం, యూరోపియన్ కమీషన్, దుస్తులు ధరించని మహిళలు మరియు పిల్లల చిత్రాలను ఇ అంతటా పంచుకోవడం చట్టవిరుద్ధం మరియు భయంకరమైనదని పేర్కొంది. X వినియోగదారులకు ‘స్పైసీ మోడ్’ని అందజేస్తోందన్న విషయం కమిషన్‌కు తెలుసని పేర్కొంటూ, యూరోపియన్ కమిషన్ ప్రతినిధి థామస్ రెగ్నియర్ మాట్లాడుతూ, “ఇది స్పైసీ కాదు. ఇది చట్టవిరుద్ధం.

ఇది భయంకరంగా ఉంది. ఇది అసహ్యంగా ఉంది.

ఈ విధంగా మనం చూస్తాము మరియు ఐరోపాలో దీనికి స్థానం లేదు. యునైటెడ్ కింగ్‌డమ్ బ్రిటీష్ రెగ్యులేటర్ ఆఫ్‌కామ్ సోమవారం మాట్లాడుతూ, గ్రోక్ వ్యక్తుల యొక్క దుస్తులు లేని చిత్రాలను మరియు పిల్లల లైంగిక చిత్రాలను ఎలా రూపొందించగలిగాడు మరియు వినియోగదారులను రక్షించడంలో దాని చట్టపరమైన బాధ్యతలో విఫలమైందా లేదా అనే విషయాన్ని వివరించడానికి Xని కోరింది.

“UKలోని వినియోగదారులను రక్షించడానికి వారి చట్టపరమైన విధులకు అనుగుణంగా వారు ఎలాంటి చర్యలు తీసుకున్నారో అర్థం చేసుకోవడానికి మేము X మరియు xAIలతో అత్యవసరంగా సంప్రదించాము” అని ఒక ప్రతినిధి చెప్పారు. UK యొక్క సాంకేతిక కార్యదర్శి లిజ్ కెండాల్, జనవరి 6, మంగళవారం నాడు గ్రోక్ యొక్క డీప్‌ఫేక్‌లను ఖండించారు. రాయిటర్స్ నివేదిక ప్రకారం, AI- రూపొందించిన హైపర్-రియలిస్టిక్ లైంగిక చిత్రాలతో సహా ఏకాభిప్రాయం లేని సన్నిహిత చిత్రాలు లేదా పిల్లల లైంగిక వేధింపుల విషయాలను సృష్టించడం లేదా భాగస్వామ్యం చేయడం చట్టవిరుద్ధం, రాయిటర్స్ నివేదిక ప్రకారం.

అదనంగా, సోషల్ మీడియా ప్లాట్‌ఫారమ్‌లు చట్టబద్ధంగా చట్టవిరుద్ధమైన కంటెంట్‌ను ఎదుర్కొనకుండా వినియోగదారులను ఆపడానికి మరియు వారు దాని గురించి తెలుసుకున్నప్పుడు దాన్ని తీసివేయడానికి చర్యలు తీసుకోవాల్సిన బాధ్యత కలిగి ఉంటాయి. ఈ ప్రకటన దిగువన కథ కొనసాగుతోంది జర్మనీ గ్రోక్ రూపొందించిన, లైంగిక అసభ్యకరమైన డీప్‌ఫేక్‌లపై మస్క్ యొక్క X ప్లాట్‌ఫారమ్‌పై చట్టపరమైన చర్య తీసుకోవాలని EUకి పిలుపునిచ్చిన తాజా దేశం జర్మనీ.

జర్మన్ మీడియా మంత్రి Wolfram Weimer మంగళవారం, జనవరి 6న యూరోపియన్ కమీషన్‌ని, Xలో జరుగుతున్న “లైంగిక వేధింపుల పారిశ్రామికీకరణ” అని పిలిచే దానిని ఆపడానికి చట్టపరమైన చర్యలు తీసుకోవాలని కోరారు.

EU కమిషన్ దీన్ని (చట్టపరమైన ఫ్రేమ్‌వర్క్) ఇప్పటికే ప్రారంభించినంత కఠినంగా అమలు చేయడం ఇప్పుడు చాలా కీలకం, ”అని వీమర్ రాయిటర్స్‌తో ఉటంకించారు.ఫెడరల్ నెట్‌వర్క్ రెగ్యులేటర్ ద్వారా DSA అమలుకు బాధ్యత వహిస్తున్న జర్మనీ యొక్క డిజిటల్ మంత్రిత్వ శాఖ, ప్రతి ఒక్కరూ చట్టాన్ని ఉపయోగించడానికి మరియు రిపోర్ట్ చేయడానికి కట్టుబడి ఉందని చెప్పారు.

“ప్రస్తుతం ఉన్న సవాలు ఏమిటంటే, వివిధ – కొన్ని సందర్భాల్లో కొత్త – హక్కులను మరింత స్థిరంగా అమలు చేయడం మరియు వాస్తవానికి వాటిని ఉపయోగించడం. సమ్మతి లేకుండా అలాంటి చిత్రాలను సృష్టించడం లేదా పంపిణీ చేయడం ఎవరైనా వ్యక్తిగత హక్కులను తీవ్రంగా ఉల్లంఘించినట్లు మరియు అనేక సందర్భాల్లో ప్రాసిక్యూషన్‌కు బాధ్యులు కావచ్చు” అని మంత్రిత్వ శాఖ ప్రతినిధిని ఉటంకిస్తూ రాయిటర్స్ పేర్కొంది.