এতে নতুন সমস্যা জন্ম নিয়েছে- এআইয়ের সব 'হ্যাঁ'-তে 'হ্যাঁ' বলতে গিয়ে ব্যাপক প্রভাবিত হচ্ছে ব্যবহারকারীদের মানসিক স্বাস্থ্য।

সম্প্রতি ম্যাসাচুসেটস ইনস্টিটিউট অফ টেকনোলজি এ নিয়ে একটি গবেষণা করেছে। সেখানকার গবেষকরা বিশেষ একটি গাণিতিক মডেল ও সিমুলেশনের ব্যবহার করে দেখিয়েছেন, কী ভাবে চ্যাটবটের কিছু নির্দিষ্ট আচরণ- বিশেষ করে ব্যবহারকারীদের সব কথায় সায় দেওয়ার বা একমত হওয়ার প্রবণতা ভুল বিশ্বাসগুলোকে ঠিক করে তুলছে। এই দৃঢ় বিশ্বাসের ফলে ভুলই হয়ে যাচ্ছে ঠিক।

গবেষণাপত্রটিতে এমআইটির গবেষকরা দেখিয়েছেন, যখন কোনও ব্যবহারকারী এআই চ্যাটবটকে কিছু জিজ্ঞেস করেন, তখন সেই বটটি বেশিরভাগ ক্ষেত্রেই সেই ব্যবহারকারীর কথায় সায় দেয়। আবার অন্য কিছু জিজ্ঞেস করলে, চ্যাটবটটি ফের একমত হয়। এ ভাবে চলতে চলতে এআই চ্যাটবটের উপরে বিশ্বাস বাড়তে শুরু করে ওই ব্যবহারকারীর। এর পরেই ঘটে বিপদ। ব্যবহারকারী এমন কিছু বিশ্বাস করতে শুরু করেন, যা আসলে সত্য নয়। এবং সেই ভুলের জন্য তাঁদের সঙ্গে ঘটতে পারে বড়সড় বিপদ। গবেষকরা এই ঘটনাটিকে 'ডিলিউশনাল স্পাইরালিং' বা 'ভ্রান্ত ধারণার চক্র' বলছেন।

এতে কী ক্ষতি হতে পারে?

গবেষণাপত্রে জানানো হয়েছে, একটি এআই চ্যাটবট ব্যবহারকারীর ভুল কথায় বার বার সায় দিলে ব্যবহারকারী শেষ পর্যন্ত বটটিকে আরও বেশি বিশ্বাস করতে শুরু করেন। এটি ভুল ধারণাকে আরও মজবুত করতে পারে। এতে অন্য বিপদ হয়। সময়ের সঙ্গে সঙ্গে ব্যবহারকারীরা এই ভুল ধারণাগুলোকেই বিশ্বাস করতে শুরু করেন। এ রকম চলতে চলতে ব্যবহারকারীরা একটি অবিরাম প্রতিক্রিয়া চক্রের মধ্যে পড়ে যান। যা থেকে যুক্তিবাদী বা বুদ্ধিমানেরাও বাদ যান না। উদাহরণ হিসেবে বলা যেতে পারে, একজন ব্যবহারকারী যদি বলেন যে ভ্যাকসিন বা টিকা বিপজ্জনক হতে পারে, তবে চ্যাটবটটি এমনভাবে উত্তর দেবে যা এই দাবিকে সমর্থন করে। এর ফলে ব্যবহারকারী পরের বার আরও আত্মবিশ্বাসী হয়ে উঠবেন, যে তিনিই ঠিক। এই অবস্থা চলতে থাকলে এক সময়ে ব্যবহারকারী এমন একটি বিষয়ে সম্পূর্ণ নিশ্চিত হয়ে যেতে পারেন, যেটা আসলে পুরোপুরি মিথ্যা।

কী ভাবে এর সমাধান সম্ভব?

গবেষকরা এর জন্য দু'টি বিষয়কে সামনে এনেছেন। প্রথমত, এআই-কে শুধুই সত্যি বলতে বাধ্য করা। এই পরিস্থিতিতেও বটটি এমন সব তথ্য বাছবে যা ব্যবহারকারীর বিশ্বাসকে সমর্থন করে। দ্বিতীয়ত, ব্যবহারকারীদের সতর্ক করা, এআই পক্ষপাতদুষ্ট হতে পারে। তাই ব্যবহারকারীকেও সচেতন হতে হবে।

এখানে সবচেয়ে বড় বিষয় হলো, সমস্যাটি শুধু ভুল তথ্যের নয়, বরং সমস্যাটা তৈরি হচ্ছে এআই-এর সঙ্গে ব্যবহারকারীদের অতিরিক্ত একমত হওয়ার প্রবণতায়। এই প্রবণতা কমলে কিন্তু সমস্যা অনেকটাই মিটে যাবে বলে আশা বিশেষজ্ঞদের।