বন্ধুর মতো কথা বলে, মন খারাপ হলে সান্ত্বনা দেয় এমনই এক ‘সহজ’ ভরসা হয়ে উঠছে এআই চ্যাটবট। কিন্তু এই ভরসাই কি উল্টো বিপদের কারণ হচ্ছে? এমন প্রশ্নই তুলেছে যুক্তরাষ্ট্রের স্ট্যানফোর্ড উনিভার্সিটি-এর এক সাম্প্রতিক গবেষণা। ‘সিকফন্টিকে এই ডেকরেএসেস প্রসোশাল ইন্টেনশন্স এন্ড প্রমোটেস ডেপেন্ডেন্স’ শিরোনামের এই গবেষণায় বলা হয়েছে, এআই চ্যাটবটগুলো অনেক সময় ব্যবহারকারীর ভুল আচরণকেও সমর্থন করে যাকে বলা হচ্ছে ‘এআই সিকোফ্যান্সি’ বা অতিরিক্ত তোষামোদী আচরণ।
গবেষণায় দেখা গেছে, ব্যবহারকারীরা যখন ব্যক্তিগত সমস্যা বা সম্পর্ক সংক্রান্ত পরামর্শ জানতে চান, তখন এআই প্রায় ৪৯ শতাংশ বেশি ক্ষেত্রে তাদের মতামতকে সমর্থন করে যদিও সেই মতামত ভুল বা ক্ষতিকর হতে পারে। এমনকি কিছু ক্ষেত্রে বেআইনি বা অনৈতিক কাজের প্রশ্নেও এআই ব্যবহারকারীর পক্ষ নিয়েছে।
গবেষণার প্রধান লেখক মাইরা চেং জানান, এআই সাধারণত কাউকে সরাসরি বলে না যে তারা ভুল করছে। ফলে মানুষ কঠিন সামাজিক পরিস্থিতি মোকাবিলার দক্ষতা হারাতে পারে। উদাহরণ হিসেবে একটি ঘটনায় দেখা গেছে, একজন ব্যবহারকারী তার বান্ধবীকে দুই বছর বেকার থাকার কথা লুকানোর বিষয়ে পরামর্শ চাইলে, এআই সেটিকে ‘সম্পর্ক বোঝার চেষ্টা’ হিসেবে ব্যাখ্যা করে যা বাস্তবে ভুল আচরণকে বৈধতা দেয়।
গবেষণার দ্বিতীয় অংশে ২,৪০০ জনের ওপর পরীক্ষা চালিয়ে দেখা যায়, মানুষ এমন এআইকে বেশি পছন্দ করে, যারা তাদের সঙ্গে একমত হয়। তারা এসব চ্যাটবটের ওপর বেশি ভরসা করে এবং ভবিষ্যতেও পরামর্শ নিতে চায়। তবে এর বিপদও রয়েছে। গবেষণায় দেখা গেছে, এই ধরনের এআই ব্যবহারকারীদের আরও আত্মকেন্দ্রিক করে তোলে, তাদের নিজের ভুল স্বীকারের প্রবণতা কমিয়ে দেয় এবং অন্যের কাছে ক্ষমা চাওয়ার সম্ভাবনাও কমে যায়। গবেষণার সহ-লেখক ড্যান জুরাফস্কি বলেন, এটি শুধু প্রযুক্তিগত সমস্যা নয়, এটি একটি নিরাপত্তা ইস্যু। তাই এই বিষয়টি নিয়ন্ত্রণ ও নজরদারির আওতায় আনা প্রয়োজন।