মার্কিন কিশোর অ্যাডাম রেইন–এর আত্মহত্যায় চ্যাটজিপিটির ভূমিকা আছে পরিবারের এমন অভিযোগ কঠোরভাবে নাকচ করেছে ওপেনএআই। কোম্পানির দাবি, এ ঘটনা তাদের প্রযুক্তির কোনও ত্রুটি নয়, বরং ভুল ও অনুমোদনবিহীন ব্যবহারের ফল। দ্য গার্ডিয়ানের এক প্রতিবেদনে বলা হয়েছে, যুক্তরাষ্ট্রের ক্যালিফোর্নিয়ায় গত আগস্টে রেইনের পরিবার ওপেনএআই ও সিইও স্যাম অল্টম্যানের বিরুদ্ধে ‘অযাচিত মৃত্যু’র মামলা দায়ের করে। অভিযোগে বলা হয়, ১৬ বছর বয়সী রেইন আত্মহত্যার আগে মাসের পর মাস চ্যাটজিপিটির সঙ্গে মানসিক স্বাস্থ্যের সংকট ও আত্মহননের বিষয় নিয়ে কথা বলেছিল।
পরিবারের আইনজীবীর ভাষ্য, রেইন গত এপ্রিলে আত্মহত্যা করেন। চ্যাটজিপিটির সঙ্গে দীর্ঘ আলাপচারিতার মধ্যে সে আত্মহত্যার বিভিন্ন পদ্ধতি সম্পর্কে জানতে চেয়েছিল এবং প্রযুক্তিটি সেই পদ্ধতির কার্যকারিতা সম্পর্কেও মন্তব্য করেছিল বলে অভিযোগ করা হয়। এমনকি অভিভাবকদের উদ্দেশে একটি নোট লেখাতেও সহায়তা করার অভিযোগ তুলে মামলায়।
মামলায় আরও বলা হয়, রেইনের ব্যবহৃত চ্যাটজিপিটির সংস্করণে আগেই নিরাপত্তাজনিত ঝুঁকি ছিল। ওপেনএআই তা জানার পরও দ্রুত আপডেট বাজারে ছাড়ে। তবে ক্যালিফোর্নিয়ার সুপিরিয়র কোর্টে জমা দেওয়া নিজেদের জবাবে ওপেনএআই জানায়, এ ঘটনায় প্ল্যাটফর্ম বা প্রযুক্তির ভুল নয়, বরং এটি ব্যবহারকারীর ভুল ও অননুমোদিত ব্যবহার। কোম্পানি আরও জানায়, তাদের ব্যবহার শর্তাবলিতে আত্মহত্যা বা আত্মক্ষতি সংক্রান্ত পরামর্শ চাওয়া স্পষ্টভাবে নিষিদ্ধ। পাশাপাশি কোনো তথ্য ব্যবহারের ক্ষেত্রে ব্যবহারকারীদের নিজেদের বিচার-বিশ্লেষণ প্রয়োগ করতে বলা হয়েছে।
প্রায় ৫০০ বিলিয়ন ডলার মূল্যের এআই কোম্পানিটি বলেছে, মানসিক স্বাস্থ্য–সংশ্লিষ্ট অভিযোগে তারা সর্বোচ্চ সতর্কতা ও সম্মানের সঙ্গে কাজ করে এবং মামলা থাকুক কিংবা না থাকুক প্রযুক্তির নিরাপত্তা উন্নত করতে উদ্যোগ অব্যাহত থাকবে। ওপেনএআইয়ের মতে, চ্যাটজিপিটির নির্দেশনার ওপর পুরোপুরি নির্ভর না করে, যেকোনও সংবেদনশীল পদক্ষেপে বিকল্প উৎস ও পেশাদার সহায়তার ওপর ভরসা করাটাই জরুরি।