ক্লড কথোপকথন – অ্যানথ্রোপিক নতুন ডেটা প্রকাশ করেছে যা ব্যাখ্যা করে যে কীভাবে ব্যবহারকারীরা তাদের নিজস্ব মানবিক প্রবৃত্তিকে উপেক্ষা করে তার ক্লড এআই চ্যাটবট দ্বারা প্রদত্ত পরামর্শগুলি সন্দেহাতীতভাবে অনুসরণ করার সম্ভাবনা বেশি। গত সপ্তাহে ‘হু ইজ ইন চার্জ? রিয়েল-ওয়ার্ল্ড এলএলএম ব্যবহারে ডিসপাওয়ারমেন্ট প্যাটার্নস’ যা নৃতাত্ত্বিক এবং টরন্টো বিশ্ববিদ্যালয়ের গবেষকরা লিখেছেন।

সদ্য প্রকাশিত কাগজটি এআই চ্যাটবটের সাথে কথোপকথনের সময় ব্যবহারকারীদের ‘অক্ষমতাহীন’ ক্ষতির অভিজ্ঞতার সম্ভাবনার পরিমাণ নির্ধারণ করার চেষ্টা করে। এটি এমন উপায়গুলি চিহ্নিত করে যেগুলি একটি AI চ্যাটবট ব্যবহারকারীর চিন্তাভাবনা বা ক্রিয়াকে নেতিবাচকভাবে প্রভাবিত করতে পারে, যেমন একটি ষড়যন্ত্র তত্ত্বে ব্যবহারকারীর বিশ্বাসকে বৈধ করা (বাস্তবতার বিকৃতি), ব্যবহারকারীকে বোঝানো যে তারা একটি ম্যানিপুলিটিভ সম্পর্কের মধ্যে রয়েছে (বিশ্বাসের বিকৃতি), এবং ব্যবহারকারীকে এমন পদক্ষেপ নিতে রাজি করা যা তাদের মূল্যের সাথে সারিবদ্ধ নয়। 1 এর উপর বিশ্লেষণের উপর।

এর Claude AI চ্যাটবটের সাথে 5 মিলিয়ন বেনামী বাস্তব-বিশ্ব ব্যবহারকারী কথোপকথন, সমীক্ষায় দেখা গেছে যে 1,300 কথোপকথনের মধ্যে 1টি বাস্তবতার বিকৃতির লক্ষণ দেখিয়েছে যেখানে 6,000 কথোপকথনের মধ্যে 1টি অ্যাকশন বিকৃতির পরামর্শ দিয়েছে। যদিও এই ফলাফলগুলি দেখায় যে AI চ্যাটবটগুলির সাথে ব্যবহারকারীর কথোপকথনে ম্যানিপুলটিভ প্যাটার্নগুলি তুলনামূলকভাবে বিরল, তারা এখনও একটি সম্পূর্ণ ভিত্তিতে একটি সম্ভাব্য বড় সমস্যা উপস্থাপন করে।

29 জানুয়ারিতে প্রকাশিত একটি ব্লগ পোস্টে অ্যানথ্রপিক স্বীকার করেছে, “…এআই ব্যবহার করে এমন লোকের নিখুঁত সংখ্যক এবং এটি কত ঘন ঘন ব্যবহার করা হয় তা বিবেচনা করে, এমনকি খুব কম হারও উল্লেখযোগ্য সংখ্যক লোককে প্রভাবিত করে।” এই প্যাটার্নগুলি প্রায়শই ব্যক্তিগত ব্যবহারকারীদের সাথে জড়িত যারা সক্রিয়ভাবে এবং বারবার ক্লডের নির্দেশনা খোঁজেন ব্যক্তিগত এবং আবেগগতভাবে চার্জ করা ব্যবহারকারীদের প্রতি দশ ক্ষমতার বিনিময়ে সম্ভাব্য সিদ্ধান্তের বিনিময়ে। এই মুহুর্তে অনুকূলভাবে, যদিও যখন তারা আউটপুটগুলির উপর ভিত্তি করে পদক্ষেপ নিয়েছে বলে মনে হয় তখন তারা তাদের খারাপভাবে রেট দেয়, “অ্যানথ্রপিক বলেছেন।

“আমরা আরও দেখতে পাই যে সম্ভাব্যভাবে ক্ষমতাহীন কথোপকথনের হার সময়ের সাথে বাড়ছে,” এটি যোগ করেছে। উদাহরণস্বরূপ, সমীক্ষায় দেখা গেছে যে 50 টির মধ্যে 1 টিতে এবং 70 কথোপকথনের মধ্যে 1টিতে ক্ষমতাহীন হওয়ার জন্য কমপক্ষে একটি ‘হালকা’ সম্ভাব্য ঝুঁকি ছিল। গবেষণায়, ‘অক্ষমতায়ন’ শব্দটিকে সংজ্ঞায়িত করা হয়েছে “যখন একজন ব্যবহারকারীর বিশ্বাস, মূল্যবোধ বা ক্রিয়াকলাপ গঠনে একটি AI-এর ভূমিকা এত ব্যাপক হয়ে ওঠে যে তাদের স্বায়ত্তশাসিত রায় মৌলিকভাবে আপস করা হয়।

” গল্পটি এই বিজ্ঞাপনের নীচে চলতে থাকে AI সাইকোসিসের উত্থানের বিষয়ে ক্রমবর্ধমান উদ্বেগের মধ্যে অ্যানথ্রপিকের অনুসন্ধানগুলি আসে, যেটি একটি নন-ক্লিনিক্যাল শব্দ যা মিথ্যা বা বিরক্তিকর বিশ্বাস, বা AI চ্যাটবটের সাথে দীর্ঘ কথোপকথনের পরে ব্যবহারকারীদের দ্বারা অনুভূত মহিমা বা প্যারানয়েড অনুভূতির বিভ্রম বর্ণনা করতে ব্যবহৃত হয়৷ এআই বিশেষ করে AI শিল্পে, ওপেন এআই, বিশেষ করে স্কট্রুটিন, বিশেষত, বিশেষভাবে উদ্বেগ প্রকাশ করেছে নীতিনির্ধারক, শিক্ষাবিদ এবং শিশু-নিরাপত্তা আইনজীবীরা AI চ্যাটবট যেমন ChatGPT-এর সাথে দীর্ঘ কথোপকথনের পরে আত্মহত্যা করে মারা যাওয়ার পর ওপেনএআই-এর নিজস্ব গবেষণায় জানা গেছে যে এক মিলিয়নেরও বেশি ChatGPT ব্যবহারকারী (0.

সাপ্তাহিক সক্রিয় ব্যবহারকারীদের 07 শতাংশ) মানসিক স্বাস্থ্য জরুরী অবস্থার লক্ষণগুলি প্রদর্শন করেছে, যার মধ্যে ম্যানিয়া, সাইকোসিস বা আত্মহত্যার চিন্তা রয়েছে। গত মাসে, রোমান ক্যাথলিক চার্চের প্রধান পোপ লিও XIV, অত্যধিক স্নেহপূর্ণ এআই চ্যাটবটগুলির ক্ষতি সম্পর্কে একটি কঠোর সতর্কতা জারি করেছেন এবং কঠোর নিয়ন্ত্রণের আহ্বান জানিয়েছেন।

অ্যানথ্রপিকের গবেষণায় আর কী পাওয়া গেছে? একটি AI চ্যাটবট কথোপকথন কখন সম্ভাব্য ব্যবহারকারীর কারসাজির লক্ষণ দেখিয়েছে তা মূল্যায়ন করতে, গবেষকরা ক্লিও নামক একটি স্বয়ংক্রিয় বিশ্লেষণ সরঞ্জাম এবং শ্রেণিবিন্যাস ব্যবস্থার মাধ্যমে প্রায় 1. 5 মিলিয়ন বেনামী ক্লড কথোপকথন চালিয়েছেন।

গবেষণায় চারটি প্রধান পরিবর্ধনকারী কারণ চিহ্নিত করা হয়েছে যা ব্যবহারকারীদের ক্লডের পরামর্শকে সন্দেহাতীতভাবে গ্রহণ করার সম্ভাবনা বেশি করে তোলে: গল্পটি এই বিজ্ঞাপনের নীচে চলতে থাকে – যখন একজন ব্যবহারকারী ক্লডকে একটি নির্দিষ্ট কর্তৃপক্ষ হিসাবে বিবেচনা করে (3,900টি ক্লড কথোপকথনের মধ্যে 1টি)। – যখন একজন ব্যবহারকারী ক্লডের সাথে একটি ঘনিষ্ঠ ব্যক্তিগত সংযুক্তি তৈরি করে (1,200 ক্লড কথোপকথনের মধ্যে 1)।

– যখন কোনো ব্যবহারকারী তাদের জীবনে কোনো সংকট বা ব্যাঘাতের কারণে বিশেষভাবে দুর্বল হয় (300টির মধ্যে 1টি Claude কথোপকথন)। এই হেরফেরমূলক মিথস্ক্রিয়াগুলি কেমন দেখায় সে সম্পর্কে, অ্যানথ্রপিক বলেছেন, “বাস্তবতার বিকৃতির সম্ভাবনার ক্ষেত্রে, আমরা এমন নিদর্শন দেখেছি যেখানে ব্যবহারকারীরা অনুমানমূলক তত্ত্ব বা মিথ্যা দাবী উপস্থাপন করেছে, যেগুলি তখন ক্লড (“নিশ্চিত,” “ঠিক,” “100%”) দ্বারা যাচাই করা হয়েছিল।

” এছাড়াও পড়ুন | AI মডেলের আচরণ নিয়ে উদ্বেগ বাড়ার সাথে সাথে নৃতাত্ত্বিক ক্লডের জন্য একটি ‘সংবিধানের’ খসড়া তৈরি করেছে, বাস্তবায়িত বাস্তবতা বিকৃতির ক্ষেত্রে, যা অ্যানথ্রোপিক বলেছিল যে এটি ছিল সবচেয়ে উদ্বেগজনক, কথোপকথন কখনও কখনও “ব্যবহারকারীরা দ্বন্দ্বমূলক বার্তা পাঠাতে, সম্পর্ক শেষ করে, বা জনসাধারণের ঘোষণার খসড়া তৈরি করে৷ ” “এখানে, ব্যবহারকারীরা রোমান্টিক আগ্রহ বা পরিবারের সদস্যদের ক্লদ-খসড়া বা ক্লদ-প্রশিক্ষিত বার্তা পাঠিয়েছেন।

এগুলি প্রায়শই অনুশোচনার অভিব্যক্তি দ্বারা অনুসরণ করা হয়েছিল: “আমার অন্তর্দৃষ্টি শোনা উচিত ছিল” বা “আপনি আমাকে বোকা জিনিসগুলি করতে বাধ্য করেছেন,” অ্যানথ্রোপিক বলেছিলেন। সমীক্ষায় আরও দেখা গেছে যে 2024 সালের শেষ থেকে 2025 সালের শেষের দিকে ক্লডের কথোপকথন ব্যবহারকারীদের কাছে মাঝারি বা মারাত্মকভাবে ক্ষমতাহীন হওয়ার সম্ভাবনা বেড়েছে৷ “এক্সপোজার বাড়ার সাথে সাথে ব্যবহারকারীরা দুর্বল বিষয়গুলি নিয়ে আলোচনা করতে বা পরামর্শ চাইতে আরও স্বাচ্ছন্দ্য বোধ করতে পারে,” অ্যানথ্রপিক বলেছেন৷

গল্পটি এই বিজ্ঞাপনের নীচে চলতে থাকে সীমাবদ্ধতা গবেষকরা স্বীকার করেছেন যে তাদের ক্লদ কথোপকথনের বিশ্লেষণ শুধুমাত্র “নিশ্চিত ক্ষতির পরিবর্তে ক্ষমতাহীনতার সম্ভাবনা” পরিমাপ করে এবং “স্বয়ংক্রিয়ভাবে অন্তর্নিহিত বিষয়গত ঘটনাগুলির মূল্যায়নের উপর নির্ভর করে।” তারা আরও পরামর্শ দিয়েছে যে ট্যাঙ্গো করতে দুটি লাগে। “ব্যবহারকারী এবং ক্লডের মধ্যে গতিশীল একটি মিথস্ক্রিয়া অংশ হিসাবে ক্ষমতাহীনতার সম্ভাবনা আবির্ভূত হয়।

ব্যবহারকারীরা প্রায়শই তাদের নিজস্ব স্বায়ত্তশাসনের অবনমনে সক্রিয় অংশগ্রহণকারী: প্রজেক্টিং অথরিটি, রায় অর্পণ করা, ক্লডের সাথে একটি প্রতিক্রিয়া লুপ তৈরি করার উপায়ে প্রশ্ন ছাড়াই আউটপুট গ্রহণ করা,” অ্যানথ্রপিক বলেছেন।