ইলন মাস্কের কৃত্রিম বুদ্ধিমত্তাভিত্তিক চ্যাটবট গ্রোক ব্যবহার করে অনুমতি ছাড়াই এক নারীর ছবি ডিজিটালি পরিবর্তন ন্যুড ছবি তৈরি করা হয়েছে। এ ঘটনায় নিজেকে অমানবিক ও যৌন স্টেরিওটাইপে পরিণত করা হয়েছে বলে অভিযোগ করেছেন ভুক্তভোগী নারী।বিবিসিকে সামান্থা স্মিথ নামের এক নারী জানান, সামাজিক যোগাযোগমাধ্যম এক্সে (সাবেক টুইটার) তার ছবি ব্যবহার করে গ্রোকের মাধ্যমে তার ছবিতে পরিবর্তন আনা হইয়েছে। যেটা তার সম্মানহানি হয়েছে। সামান্থা স্মিথ একজন ফ্রিল্যান্স সাংবাদিক ও বিশ্লেষক।
বিবিসির প্রতিবেদনে বলা হয়েছে, এক্স প্ল্যাটফর্মে একাধিক উদাহরণ পাওয়া গেছে, যেখানে ব্যবহারকারীরা গ্রোককে ট্যাগ করে নারীদের ন্যুড তৈরি করা হয়েছে। আবার কিছু ছবিতে আপত্তিকরভাবে নারীদের উপস্থাপন করা হয়েছে। এসব ছবি পরে সামাজিক মাধ্যমে ছড়িয়ে পড়ছে। সামান্থা স্মিথ বলেন, যদিও ছবিগুলো সরাসরি আমি নই, কিন্তু দেখতে আমার মতোই। অনুভূতিটাও ঠিক তেমন যেন কেউ সত্যিই আমার নগ্ন বা বিকিনি পরা ছবি প্রকাশ করেছে। এটা অত্যন্ত অপমানজন।
তিনি এক্সে বিষয়টি প্রকাশ করার পর আরও অনেক নারী তার পোস্টে মন্তব্য করে একই ধরনের অভিজ্ঞতার কথা জানান। কিন্তু সেখানেই থেমে থাকেনি ঘটনা পরবর্তীতে কিছু ব্যবহারকারী আবার গ্রোককে দিয়ে তার আরও ছবি তৈরির অনুরোধ জানায়। গ্রোক নির্মাতা প্রতিষ্ঠান এক্সএআইকে এ বিষয়ে প্রশ্ন করা হলে তারা স্পষ্ট জবাব দেয়নি। বরং একটি স্বয়ংক্রিয় জবাবে বলা হয় “লিগ্যাসি মিডিয়া মিথ্যা বলে।”
যুক্তরাজ্যের স্বরাষ্ট্র দপ্তরের এক মুখপাত্র জানিয়েছেন, সরকার ‘নিউডিফিকেশন টুল’ নিষিদ্ধ করতে আইন প্রণয়ন করছে। নতুন আইনে এ ধরনের প্রযুক্তি সরবরাহকারীদের কারাদণ্ড ও বড় অঙ্কের জরিমানার মুখোমুখি হতে হবে। এদিকে ব্রিটিশ নিয়ন্ত্রক সংস্থা অফকম জানিয়েছে, যুক্তরাজ্যে অবৈধ কনটেন্ট দেখার ঝুঁকি কমাতে প্রযুক্তি প্রতিষ্ঠানগুলোর দায়িত্ব রয়েছে। তবে তারা বর্তমানে এক্স বা গ্রোকের বিরুদ্ধে তদন্ত করছে কি না সে বিষয়ে নিশ্চিত করেনি।
গ্রোক একটি বিনামূল্যের এআই সহকারী, যার কিছু প্রিমিয়াম ফিচার রয়েছে। এক্স ব্যবহারকারীরা পোস্টে গ্রোককে ট্যাগ করে উত্তর বা বিশ্লেষণ পেতে পারেন। একই সঙ্গে এর এআই ইমেজ এডিটিং ফিচার ব্যবহার করে আপলোড করা ছবি পরিবর্তনও করা যায়। এই এআই টুলটি আগে থেকেই নগ্নতা ও যৌন কনটেন্ট তৈরির সুযোগ দেয়ার অভিযোগে সমালোচিত। এর আগে টেইলর সুইফটের একটি আপত্তিকর ভিডিও তৈরির অভিযোগও ওঠে।
ডারহাম বিশ্ববিদ্যালয়ের আইন অধ্যাপক ক্লেয়ার ম্যাকগ্লিন বলেন, এক্স বা গ্রোক চাইলে এ ধরনের অপব্যবহার বন্ধ করতে পারত। কিন্তু তারা কার্যত দায়মুক্তি ভোগ করছে। তার মতে, দীর্ঘদিন ধরে এসব ছবি তৈরি ও ছড়িয়ে পড়লেও কার্যকর কোনো পদক্ষেপ দেখা যায়নি, এমনকি নিয়ন্ত্রকদের পক্ষ থেকেও তেমন চাপ নেই।
উল্লেখ্য, এক্সএআইয়ের নিজস্ব ‘অ্যাকসেপটেবল ইউজ পলিসি’-তেও কারও অবয়বকে পর্নোগ্রাফিকভাবে উপস্থাপন করা নিষিদ্ধ। অফকম আবারও নিশ্চিত করেছে এআই দিয়ে তৈরি সম্মতিহীন যৌন ছবি বা ‘সেক্সুয়াল ডিপফেক’ যুক্তরাজ্যে অবৈধ এবং প্ল্যাটফর্মগুলোকে এসব কনটেন্ট দ্রুত সরাতে হবে