Grok, Elon Musk-এর মালিকানাধীন xAI দ্বারা তৈরি করা AI চ্যাটবট, AI চ্যাটবট মহিলাদের এবং অপ্রাপ্তবয়স্ক মেয়েদের যৌনতাপূর্ণ, অ-সম্মতিমূলক ছবি তৈরি করার বিষয়ে ক্রমবর্ধমান প্রতিক্রিয়ার মধ্যে আবারও বিশ্বজুড়ে নিয়ন্ত্রকদের ক্ষোভ প্রকাশ করছে৷ কয়েক সপ্তাহের তীব্র সমালোচনা ও যাচাই-বাছাইয়ের পর, xAI মঙ্গলবার, জানুয়ারী 6-এ ঘোষণা করেছে যে এটি এনভিডিয়া, ফিডেলিটি ম্যানেজমেন্ট অ্যান্ড রিসোর্স কোম্পানি, কাতারের সার্বভৌম সম্পদ তহবিল এবং ভ্যালর ইক্যুইটি পার্টনারদের মতো বিশিষ্ট বিনিয়োগকারীদের সমন্বিত তার সর্বশেষ তহবিল রাউন্ডে $20 বিলিয়ন সংগ্রহ করেছে। সিরিজ ই ফান্ডিং রাউন্ড কথিতভাবে AI স্টার্টআপের প্রাথমিক $15 বিলিয়ন লক্ষ্যকে অতিক্রম করেছে, xAI এর একটি প্রেস রিলিজ অনুযায়ী যেখানে এটি Grok Imagine নামে পরিচিত Grok-এর ইমেজ-জেনারেশন বৈশিষ্ট্যটিকে “আট-অফ-দ্য-আর্ট মাল্টিমডাল বোঝাপড়া” সহ “বিদ্যুৎ-দ্রুত” হিসাবে উল্লেখ করেছে – 20 ডিসেম্বরের শেষের দিকে, বেশিরভাগ মহিলার দ্বারা মন্তব্য করা শুরু হয়েছে – 20 ডিসেম্বরের শেষের দিকে মহিলারা গ্রোককে ট্যাগ করে এবং চ্যাটবটকে “ওকে বিকিনি পরতে” বা “তার পোশাক খুলে ফেলতে” বলে।

AI চ্যাটবট, যা ট্যাগ করা হলে স্বয়ংক্রিয়ভাবে উত্তর দেয়, এই ব্যবহারকারীর অনুরোধগুলি মেনে চলে এবং সেলিব্রিটি এবং অ-সেলিব্রিটি উভয়ের অ-সম্মতিমূলক যৌন ছবি তৈরি করে, যার মধ্যে কিছু যারা ছোট শিশু বলে মনে হয়েছিল। এর প্রতিক্রিয়ায়, xAI ব্যবহারকারীদের উপর দায়বদ্ধতা বদলাতে চেয়েছে, সতর্ক করে যে যারা Grokকে অবৈধ সামগ্রী তৈরি করতে অনুরোধ করে তারা X-এ অবৈধ সামগ্রী আপলোড করার মতো একই পরিণতির মুখোমুখি হবে। “আমরা X-এ অবৈধ সামগ্রীর বিরুদ্ধে ব্যবস্থা নিই, শিশু যৌন নির্যাতনের উপাদান (CSAM) সহ, এটিকে অপসারণ করে, স্থায়ীভাবে স্থগিত করার মাধ্যমে, স্থানীয় সরকারী প্ল্যাটফর্ম হিসাবে এবং প্রয়োজনীয় প্ল্যাটফর্মের অ্যাকাউন্ট স্থগিত করে।” নিরাপত্তা দল আরও জানিয়েছে।

যাইহোক, X এর বিরুদ্ধে নিয়ন্ত্রক পদক্ষেপের কথা ভাবা দেশগুলির তালিকা ক্রমাগত বৃদ্ধি পেয়েছে। সাম্প্রতিক Grok ঘটনায় বিভিন্ন অঞ্চলের নিয়ন্ত্রকরা কীভাবে প্রতিক্রিয়া জানিয়েছেন তা এখানে দেখুন। উল্লেখযোগ্যভাবে, মার্কিন যুক্তরাষ্ট্রের আইন প্রণেতা এবং নিয়ন্ত্রক সংস্থাগুলি, যেখানে xAI-এর সদর দফতর রয়েছে, এখনও এই বিষয়ে মন্তব্য করেনি৷

গল্পটি এই বিজ্ঞাপনের নীচে চলতে থাকে মালয়েশিয়া মালয়েশিয়ার ডিজিটাল নিয়ন্ত্রক বলেছে যে এটি “বর্তমানে X এ অনলাইন ক্ষতির তদন্ত করছে।” একটি বিবৃতিতে, মালয়েশিয়ান কমিউনিকেশনস অ্যান্ড মাল্টিমিডিয়া কমিশন বলেছে যে এটি “এক্স-এ কৃত্রিম বুদ্ধিমত্তার (AI) সরঞ্জামের অপব্যবহারের বিষয়ে জনসাধারণের অভিযোগের গুরুতর উদ্বেগের সাথে নোট করেছে, বিশেষ করে পুরুষদের প্ল্যাটফর্মের ডিজিটাল প্ল্যাটফর্ম তৈরিতে, বিশেষ করে নারীদের ইমেজ তৈরিতে। মারাত্মকভাবে আপত্তিকর, এবং অন্যথায় ক্ষতিকারক বিষয়বস্তু ” ফ্রান্স তিনজন ফরাসি সরকারের মন্ত্রী প্যারিস প্রসিকিউটর অফিসে গ্রোকের আউটপুটগুলিকে পতাকাঙ্কিত করেছে, যা বলেছে যে এটি এক্স-এ যৌনতাপূর্ণ ডিপফেকগুলির বিস্তারের তদন্ত করবে৷

দেশের ডিজিটাল অ্যাফেয়ার্স অফিস বলেছে যে মন্ত্রীরা একটি সরকারি অনলাইন নজরদারি প্ল্যাটফর্মে “প্রকাশ্যভাবে বেআইনি বিষয়বস্তু” রিপোর্ট করেছেন যাতে “এটি অবিলম্বে অপসারণ করা যায়”, পলিটিকোর একটি প্রতিবেদন অনুসারে। ছবিগুলি ইউরোপীয় ইউনিয়নের ডিজিটাল পরিষেবা আইন (ডিএসএ) লঙ্ঘন করে কিনা তাও সিদ্ধান্ত নিতে বলা হয়েছে, এক্স-এর মতো অনলাইন মধ্যস্থতাকারীদের দ্বারা বিষয়বস্তু পরিচালনার জন্য আইনী কাঠামো। স্টোরি এই বিজ্ঞাপনের নীচে অব্যাহত রয়েছে ভারত মহিলাদের আপত্তিকর ছবি এবং ভিডিও তৈরি করার জন্য গ্রোকের অপব্যবহারের কথা নোট করে, তাদের সম্মতি ব্যতীত, X আইটি মন্ত্রকের কাছে সরাসরি প্ল্যাটফর্মের অভিযুক্ত প্ল্যাটফর্মকে অভিযুক্ত করেছে। দেশের আইন মেনে চলা এবং সুরক্ষা প্রয়োগে X-এর “গুরুতর ব্যর্থতার” জন্য লাল পতাকা তুলেছে।

“আপনার দ্বারা তৈরি Grok AI এবং X প্ল্যাটফর্মে একত্রিত এবং উপলব্ধ করা হয়েছে, ব্যবহারকারীদের দ্বারা অশালীনভাবে অপমানজনক বা অশ্লীল উপায়ে মহিলাদের অশ্লীল ছবি বা ভিডিও হোস্ট, তৈরি, প্রকাশ বা শেয়ার করার জন্য জাল অ্যাকাউন্ট তৈরি করার জন্য অপব্যবহার করা হচ্ছে,” আইটি মন্ত্রণালয় শুক্রবার 2 জানুয়ারী সোশ্যাল মিডিয়া কোম্পানির সোশ্যাল মিডিয়া অফিসারের কাছে পাঠানো নোটিশে বলেছে। Grok AI সম্পর্কিত X দ্বারা গৃহীত সুনির্দিষ্ট প্রযুক্তিগত এবং সাংগঠনিক ব্যবস্থা, তার ভারতের প্রধান সম্মতি অফিসারের ভূমিকা এবং তত্ত্বাবধান এবং আপত্তিকর বিষয়বস্তু, ব্যবহারকারী এবং অ্যাকাউন্টের বিরুদ্ধে কোম্পানির দ্বারা গৃহীত পদক্ষেপগুলি কভার করে, X-কে বুধবার, 7 জানুয়ারির মধ্যে একটি বিশদ পদক্ষেপ নেওয়া রিপোর্ট জমা দেওয়ার নির্দেশ দিয়েছে৷ এটি কোম্পানিকে Grok AI এর একটি ব্যাপক প্রযুক্তিগত, পদ্ধতিগত এবং প্রশাসন-স্তরের পর্যালোচনা করার নির্দেশ দিয়েছে, যার মধ্যে এর প্রম্পট-প্রসেসিং, আউটপুট জেনারেশন, এবং ইমেজ হ্যান্ডলিং এবং সেফটি গার্ডেল রয়েছে, “নিশ্চিত করার জন্য যে অ্যাপ্লিকেশনটি নগ্নতা, যৌনতা, যৌনতা বা অন্য কোন আইনানুগ বিষয়বস্তু ধারণ করে এমন বিষয়বস্তু তৈরি, প্রচার বা সুবিধা দেয় না।”

গল্পটি এই বিজ্ঞাপনের নীচে অব্যাহত রয়েছে ইউরোপীয় ইউনিয়ন ইউরোপীয় কমিশন, 5 জানুয়ারী সোমবার, বলেছে যে পোশাকবিহীন নারী এবং শিশুদের ইমেজ শেয়ার করা হচ্ছে বেআইনি এবং ভয়ঙ্কর। X ব্যবহারকারীদের একটি ‘মশলাদার মোড’ অফার করছে তা কমিশন সচেতন ছিল বলে উল্লেখ করে, ইউরোপীয় কমিশনের মুখপাত্র টমাস রেগনিয়ার বলেন, “এটি মশলাদার নয়। এটি অবৈধ।

এই ভয়ঙ্কর. এটা জঘন্য।

আমরা এটিকে এভাবেই দেখি এবং ইউরোপে এর কোনো স্থান নেই। ইউনাইটেড কিংডম ব্রিটিশ নিয়ন্ত্রক অফকম সোমবার বলেছে যে এটি এক্সকে ব্যাখ্যা করতে বলেছে যে কীভাবে গ্রোক মানুষের পোশাকহীন ছবি এবং শিশুদের যৌনতাযুক্ত ছবি তৈরি করতে সক্ষম হয়েছিল এবং ব্যবহারকারীদের সুরক্ষার জন্য এটি তার আইনি দায়িত্বে ব্যর্থ হচ্ছে কিনা।

একজন মুখপাত্র বলেছেন, “যুক্তরাজ্যে ব্যবহারকারীদের সুরক্ষার জন্য তারা তাদের আইনি দায়িত্ব পালনের জন্য কী পদক্ষেপ নিয়েছে তা বোঝার জন্য আমরা X এবং xAI-এর সাথে জরুরি যোগাযোগ করেছি।” লিজ কেন্ডাল, যুক্তরাজ্যের প্রযুক্তি সচিব, 6 জানুয়ারী মঙ্গলবারও গ্রোকের ডিপফেকের নিন্দা করেছেন। রয়টার্সের একটি প্রতিবেদন অনুসারে, এআই-উত্পাদিত হাইপার-রিয়ালিস্টিক যৌন চিত্র সহ অ-সম্মতিমূলক অন্তরঙ্গ ছবি বা শিশু যৌন নির্যাতনের উপাদান তৈরি করা বা ভাগ করা ব্রিটেনে বেআইনি।

উপরন্তু, সামাজিক মিডিয়া প্ল্যাটফর্মগুলি ব্যবহারকারীদের অবৈধ বিষয়বস্তুর সম্মুখীন হওয়া থেকে বিরত করার জন্য পদক্ষেপ নিতে এবং যখন তারা এটি সম্পর্কে সচেতন হয় তখন এটিকে সরিয়ে নিতে আইনত বাধ্য। গল্পটি এই বিজ্ঞাপনের নীচে অব্যাহত রয়েছে জার্মানি জার্মানি হল সাম্প্রতিকতম দেশ যা Grok-উত্পাদিত, যৌন সুস্পষ্ট ডিপফেকগুলির বিরুদ্ধে Musk’s X প্ল্যাটফর্মের বিরুদ্ধে আইনি ব্যবস্থা নেওয়ার জন্য EU-কে আহ্বান জানিয়েছে৷

জার্মান মিডিয়া মন্ত্রী উলফ্রাম ওয়েইমার, মঙ্গলবার, 6 জানুয়ারী, ইউরোপীয় কমিশনকে অনুরোধ করেছিলেন যে তিনি X-তে ঘটছে “যৌন হয়রানির শিল্পায়ন” বন্ধ করার জন্য আইনি পদক্ষেপ নেওয়ার জন্য।

এটা এখন অত্যন্ত গুরুত্বপূর্ণ যে ইইউ কমিশন এই (আইনি কাঠামো)টিকে ইতিমধ্যেই শুরু করার মতো কঠোরভাবে প্রয়োগ করে চলেছে,” ওয়েমারকে উদ্ধৃত করে রয়টার্স বলেছেন। ফেডারেল নেটওয়ার্ক নিয়ন্ত্রকের মাধ্যমে ডিএসএ প্রয়োগের জন্য দায়ী জার্মানির ডিজিটাল মন্ত্রক বলেছে যে এটি আইনের সাথে সম্মতি নিশ্চিত করতে প্রতিশ্রুতিবদ্ধ এবং প্রত্যেককে তার অধিকার ব্যবহার করার জন্য অনুরোধ করেছে।

“বর্তমানে চ্যালেঞ্জ হল প্রাথমিকভাবে বিভিন্ন – কিছু ক্ষেত্রে নতুন – অধিকারগুলি আরও ধারাবাহিকভাবে প্রয়োগ করা এবং প্রকৃতপক্ষে সেগুলি ব্যবহার করা। যে কেউ সম্মতি ছাড়াই এই জাতীয় ছবি তৈরি বা বিতরণ করে সে ব্যক্তিগত অধিকারের গুরুতর লঙ্ঘন করছে এবং অনেক ক্ষেত্রে বিচারের মুখোমুখি হতে পারে,” রয়টার্সের একটি মন্ত্রকের মুখপাত্রকে উদ্ধৃত করা হয়েছে।