Grok অ্যাকাউন্ট – Elon Musk-এর মালিকানাধীন xAI বলেছে যে এটি তার Grok AI চ্যাটবটকে X-এ ব্যবহারকারীর অনুরোধের প্রতিক্রিয়ায় প্রকৃত লোকেদের অ-সম্মতিমূলক যৌন ছবি তৈরি করা থেকে বিরত রাখার জন্য পদক্ষেপ নিয়েছে। “আমরা Grok অ্যাকাউন্টকে প্রকৃত ব্যক্তিদের ছবি সম্পাদনা করার অনুমতি দেওয়া থেকে প্রতিরোধ করার জন্য প্রযুক্তিগত ব্যবস্থা প্রয়োগ করেছি, যেমন এই অ্যাপটি ব্যবহারকারীদের জন্য অর্থপ্রদানের সমস্ত অ্যাপ প্রকাশ করা হয়। গ্রাহকরা,” 15 জানুয়ারী বুধবার অফিসিয়াল এক্স সেফটি অ্যাকাউন্টের মাধ্যমে শেয়ার করা একটি পোস্টে এআই স্টার্টআপ বলেছে।

X-এ Grok অ্যাকাউন্টের মাধ্যমে শুধুমাত্র অর্থপ্রদানকারী গ্রাহকদেরই এখন ছবি তৈরি এবং সংশোধন করার অনুমতি দেওয়া হয়েছে। “এটি সুরক্ষার একটি অতিরিক্ত স্তর যোগ করে যে ব্যক্তিরা আইন বা আমাদের নীতি লঙ্ঘনের জন্য Grok অ্যাকাউন্টের অপব্যবহার করার চেষ্টা করে তাদের জবাবদিহি করা যেতে পারে,” xAI বলেছে। উপরন্তু, কোম্পানি বলেছে যে প্রদত্ত এবং বিনামূল্যে X ব্যবহারকারী উভয়ই Grok-কে “বিকিনি, আন্ডারওয়্যার এবং অনুরূপ পোশাকে প্রকৃত লোকদের ছবি” তৈরি করতে অনুরোধ করা থেকে জিওব্লক করা হয়েছে যেখানে এই ধরনের বিষয়বস্তু অবৈধ।

পরিবর্তনগুলি X ব্যবহারকারীদের সোশ্যাল মিডিয়া প্ল্যাটফর্মে লোকেদের বাস্তব ফটোগুলির উপর ভিত্তি করে সহজেই অ-সম্মতিমূলক, যৌনভাবে স্পষ্ট ছবি তৈরি করতে সক্ষম করার জন্য Grok-এর বিরুদ্ধে এক সপ্তাহেরও বেশি বিতর্ক এবং ব্যাপক সমালোচনা অনুসরণ করে। 2025 সালের ডিসেম্বরের শেষের দিকে, X-এর বেশ কয়েকজন ব্যবহারকারী গ্রোক অ্যাকাউন্টে ট্যাগ করে এবং “তাকে বিকিনি পরিয়ে দিন” বা “তার পোশাক খুলে ফেলতে” বলে লোকেদের ছবি – সাধারণত মহিলাদের – মন্তব্য করতে শুরু করেন৷ AI চ্যাটবট অ্যাকাউন্ট, যা ট্যাগ করা হলে স্বয়ংক্রিয়ভাবে উত্তর দেয়, এই ব্যবহারকারীর অনুরোধগুলি মেনে চলে এবং সেলিব্রিটি এবং নন-সেলিব্রিটি উভয়ের অ-সম্মতিমূলক যৌন ছবি তৈরি করে, যার মধ্যে কিছু যারা ছোট বাচ্চা বলে মনে হয়েছিল।

এই ঘটনাটি শুধুমাত্র ভোক্তা এবং রাজনৈতিক প্রতিক্রিয়ার জন্ম দেয়নি বরং ভারত, মালয়েশিয়া, ইন্দোনেশিয়া, আয়ারল্যান্ড, ফ্রান্স, অস্ট্রেলিয়া এবং যুক্তরাজ্যের মতো দেশগুলির পাশাপাশি ইউরোপীয় কমিশন গ্রোকের উপর নিয়ন্ত্রক তদন্তের নেতৃত্ব দিয়েছে৷ বিতর্কের পর ইন্দোনেশিয়া ও মালয়েশিয়াতেও গ্রোককে সাময়িকভাবে নিষিদ্ধ করা হয়েছে।

গ্রোক ‘আনড্রেসিং’ ফিয়াস্কোর প্রাথমিক প্রতিক্রিয়ায়, এলন মাস্ক এবং তার প্ল্যাটফর্মগুলি গ্রোককে অবৈধ সামগ্রী তৈরি করতে বলার জন্য ব্যবহারকারীদের দায়বদ্ধ করে তাদের কাছে জবাবদিহিতা স্থানান্তর করতে চেয়েছিল। গল্পটি এই বিজ্ঞাপনের নীচে চলতে থাকে “যে কেউ যদি Grok ব্যবহার করে বা বেআইনি সামগ্রী তৈরি করতে প্ররোচিত করে তবে তারা অবৈধ সামগ্রী আপলোড করলে একই পরিণতি ভোগ করবে […] আমরা চাইল্ড সেক্সুয়াল অ্যাবিউজ ম্যাটেরিয়াল (CSAM) সহ X-এ অবৈধ সামগ্রীর বিরুদ্ধে ব্যবস্থা নিই, এটিকে সরিয়ে দিয়ে, অ্যাকাউন্টগুলিকে স্থায়ীভাবে স্থগিত করে, এবং প্রয়োজনে স্থানীয় সরকার এবং আইন প্রয়োগকারীদের সাথে কাজ করে,” X-এর নিরাপত্তা দল বলেছে। সম্মতি ছাড়াই মহিলাদের আপত্তিকর ছবি Grok তৈরি করার বিষয়ে ভারত সরকারের কঠোর নোটিশের জবাবে, X বলেছে যে এটি 3,500 টুকরো বিষয়বস্তু সরিয়ে দিয়েছে এবং 600 অ্যাকাউন্ট ব্লক করেছে।

এর আগে বুধবার, মাস্ক তার অনুগামীদের জেলব্রেক গ্রোকের ইমেজ মডারেশন করার জন্য চ্যালেঞ্জ করেছিলেন। “দ্রষ্টব্য: NSFW সক্ষম করার সাথে, Grok অ্যাপল টিভিতে আর-রেটেড মুভিতে যা দেখা যায় তার সাথে সামঞ্জস্যপূর্ণ কাল্পনিক প্রাপ্তবয়স্ক মানুষের (বাস্তব নয়) শরীরের উপরের নগ্নতাকে অনুমতি দেয় বলে মনে করা হয়। এটি আমেরিকার ডি ফ্যাক্টো স্ট্যান্ডার্ড।

এটি দেশের ভিত্তিতে দেশের আইন অনুসারে অন্যান্য অঞ্চলে পরিবর্তিত হবে, “তিনি একটি পোস্টে লিখেছেন। কেউ কি আসলেই গ্রোক ইমেজ মডারেশন ভঙ্গ করতে পারে? নীচে উত্তর দিন। https://t.

co/4Dvj3RNyU5 — Elon Musk (@elonmusk) 14 জানুয়ারী, 2026 xAI-এর ঘোষণাটিও এসেছে ক্যালিফোর্নিয়ার অ্যাটর্নি জেনারেল রব বন্টা বলার কয়েক ঘণ্টা পরেই যে তার অফিস সিলিকন ভ্যালি-ভিত্তিক AI স্টার্টআপের বিরুদ্ধে তদন্ত করছে তার অভিযোগ “বড় আকারে তৈরি করা ডিপফেক ইমেজ তৈরি করার জন্য এবং একটি অঘোষিত ননকনসেন্স তৈরি করার” সিদ্ধান্ত। ক্যালিফোর্নিয়ার গভর্নর গ্যাভিন নিউজম বুধবার একটি পোস্টে লিখেছেন, ডিজিটালভাবে শিশুদের পোশাক খোলার ছবি সহ অসম্মতিমূলক যৌনতাপূর্ণ এআই ডিপফেকগুলি ছড়িয়ে দেওয়ার জন্য শিকারীদের প্রজনন ক্ষেত্র। উল্লেখযোগ্যভাবে, বুধবার দেওয়া ফিক্সগুলি X-এ Grok অ্যাকাউন্টে সীমাবদ্ধ বলে মনে হচ্ছে।

যাইহোক, Grok অ্যাপ এবং এর অফিসিয়াল ওয়েবসাইটটিও যৌন বিষয়বস্তু তৈরি করার জন্য অপব্যবহার করা হয়েছে যা X-এর তুলনায় অনেক বেশি গ্রাফিক, ওয়্যার্ডের একটি প্রতিবেদন অনুসারে। গল্পটি এই বিজ্ঞাপনের নীচে চলতে থাকে কিছু দিন আগে, তিনজন মার্কিন সিনেটর অ্যাপল এবং গুগলকে তাদের নিজ নিজ অ্যাপ স্টোর থেকে X এবং Grok অ্যাপগুলি সরিয়ে ফেলার জন্য অনুরোধ করেছিলেন যতক্ষণ না মাস্ক-মালিকানাধীন কোম্পানিগুলি অসম্মতিমূলক স্পষ্ট চিত্রগুলি সহজে তৈরি করা রোধ করতে পরিবর্তন না করে।

“জেনারেটিভ AI এর দ্রুত বিবর্তন সমগ্র শিল্প জুড়ে চ্যালেঞ্জ উপস্থাপন করে। আমরা সক্রিয়ভাবে ব্যবহারকারী, আমাদের অংশীদার, পরিচালনা সংস্থা এবং অন্যান্য প্ল্যাটফর্মের সাথে কাজ করছি যাতে সমস্যাগুলি আরও দ্রুত সমাধান করা যায়,” xAI বুধবার বলেছে৷