আপনি যদি প্রতিদিন ChatGPT, Gemini বা Cloud এর মত AI চ্যাটবট ব্যবহার করেন, আপনি হয়তো লক্ষ্য করেছেন যে তারা সাধারণত পরিশীলিত এবং আত্মবিশ্বাসী উত্তর প্রদান করে। যাইহোক, যখন আপনি জিজ্ঞাসা করেন “আপনি কি নিশ্চিত?” প্রম্পট অগ্রসর হওয়ার সাথে সাথে, তারা প্রায়শই তাদের প্রতিক্রিয়া পুনর্বিবেচনা করে এবং একটি সংশোধিত সংস্করণ সরবরাহ করে, যা তারা প্রাথমিকভাবে যা বলেছিল তা আংশিক বা সম্পূর্ণ বিরোধিতা করতে পারে।

আপনি যদি প্রশ্নটি আরও একবার পুনরাবৃত্তি করেন তবে তারা আবার ফিরে আসতে পারে। যদিও এই বড় ভাষার মডেলগুলির মধ্যে কিছু বুঝতে পারে যে আপনি তৃতীয় রাউন্ডে তাদের পরীক্ষা করছেন, তারা এখনও ধরতে পারবে না। একটি ব্লগ পোস্টে, ড.

র্যান্ডাল এস, গুডআই ল্যাবসের সহ-প্রতিষ্ঠাতা এবং সিটিও।

ওলসন বলেছেন যে আচরণ, যা সাধারণত সাইকোফ্যান্সি নামে পরিচিত, আধুনিক AI-তে সবচেয়ে ভালভাবে নথিভুক্ত ব্যর্থতাগুলির মধ্যে একটি।