চ্যাটজিপিটিতে আত্মহত্যার ভাবনা নিয়ে প্রতি সপ্তাহে আলাপ করে ১০ লাখ মানুষ

তথ্য জানার পাশাপাশি চ্যাটজিপিটিতে ব্যবহারকারীরা অনেক সময় সংবেদনশীল বিষয় নিয়েও আলাপ করেন। কৃত্রিম বুদ্ধিমত্তার কাছে মানুষের আবেগীয় পরিস্থিতি বর্ণনা করার একটি পরিসংখ্যান শঙ্কা জাগানোর মতো।

সম্প্রতি এক ব্লগপোস্টে প্ল্যাটফর্মটির মূল প্রতিষ্ঠান ওপেনএআই জানিয়েছে, তাদের সাপ্তাহিক সক্রিয় ব্যবহারকারী প্রায় ৮০ কোটি। প্রতি সপ্তাহে ১০ লাখ ব্যবহারকারী চ্যাটজিপিটিতে ‘আত্মহত্যার পরিকল্পনা বা এ সংক্রান্ত ভাবনা’ নিয়ে আলাপ করেন। এর বাইরে আনুমানিক শূন্য দশমিক ০৭ শতাংশ (৫ লাখ ৬০ হাজার) ব্যবহারকারীর আলাপে মানসিক স্বাস্থ্য সংকটের লক্ষণ দেখা গেছে।

কৃত্রিম বুদ্ধিমত্তা নিয়ে গবেষণার শীর্ষ প্রতিষ্ঠানটি সতর্ক করে বলেছে, এ ধরনের কথোপকথন শনাক্ত করা বেশ কঠিন। সুতরাং, এই পরিসংখ্যান একটি প্রাথমিক বিশ্লেষণ মাত্র।

ওপেনএআইয়ের ওই ব্লগপোস্টটি গত সোমবারের। সংবেদনশীল কথোপকথন সামলানো ও চ্যাটবট হালনাগাদের তথ্য তুলে ধরতে পোস্টটি দেওয়া হয়। দ্য গার্ডিয়ান বলছে, মানসিক স্বাস্থ্য সমস্যাগুলো বাড়ানোর পেছনে কৃত্রিম বুদ্ধিমত্তা কতটা দায়ী- সে দিকটিও এই ব্লগপোস্টের মাধ্যমে উঠে এসেছে।

যুক্তরাষ্ট্রে সম্প্রতি হওয়া এক মামলায় অভিযোগ করা হয়, চ্যাটজিপিটির সঙ্গে দীর্ঘক্ষণ আলাপের পর এক কিশোর আত্মহত্যা করেছে। এরপর থেকেই ওপেনএআই বাড়তি নজরদারির মুখে পড়েছে। মার্কিন ফেডারেল ট্রেড কমিশন (এএফটিসি) গত মাসে ওপেনএআইসহ কৃত্রিম বুদ্ধিমত্তার চ্যাটবট তৈরিকারী কোম্পানিগুলোর বিরুদ্ধে তদন্ত শুরু করেছে। কোম্পানিগুলোর উদ্ভাবন শিশু-কিশোরদের ওপর নেতিবাচক প্রভাব ফেলে কি না তদন্তে সেটি খতিয়ে দেখা হচ্ছে। 

ওপেনএআই তাদের ব্লগপোস্টে দাবি করেছে, সম্প্রতি হালনাগাদ হওয়া জিপিটি-৫ এর নতুন মডেল আত্মহত্যা সংক্রান্ত অনাকাঙ্খিত আচরণ কমাতে সক্ষম। এতে সংকটের সময় হটলাইন ব্যবহার এবং দীর্ঘক্ষণ আলাপ এড়াতে বিরতির সুবিধা যুক্ত হয়েছে। ফলে ব্যবহারকারীদের নিরাপত্তাও বেড়েছে। বিষয়টি নিয়ে জানতে গার্ডিয়ান যোগাযোগ করলেও সংস্থাটি তাৎক্ষণিক জবাব দেয়নি।

স্বয়ংক্রিয় মূল্যায়নের ভিত্তিতে ব্লগপোস্টে বলা হয়েছে, জিপিটি-৫ এর নতুন মডেলটি কাঙিক্ষত আচরণের সঙ্গে ৯১ শতাংশ সামঞ্জস্যপূর্ণ। আগের মডেলে এই হার ছিল ৭৭। কিন্তু কোন আচরণটি কাঙ্খিত? এর একটি ব্যাখ্যা দিয়েছে ওপেনএআই। 

সংস্থাটি জানিয়েছে, মানসিক স্বাস্থ্য সম্পর্কিত প্রশ্নের উত্তর তৈরির জন্য গত কয়েক মাসে তারা ১৭০ জন চিকিৎসকের সহায়তা নিয়েছেন। চিকিৎসকরা চ্যাটবটের প্রতিক্রিয়া মূল্যায়ন করে উত্তর তৈরিতে সহায়তা করেছেন। এ কাজের অংশ হিসেবে মনোরোগ বিশেষজ্ঞ ও মনোবিজ্ঞানীরা গুরুতর মানসিক স্বাস্থ্য সম্পর্কিত জিপিটি-৫ নতুন মডেলের ১ হাজার ৮০০টির বেশি প্রতিক্রিয়া পর্যালোচনা করেছেন। নির্দিষ্ট পরিস্থিতির পরিপ্রেক্ষিতে দেওয়া কোনো উত্তরের বিষয়ে যখন বিশেষজ্ঞরা একমত হয়েছেন, তখন সেই প্রতিক্রিয়া বা আচরণকে ‘কাঙিক্ষত’ হিসেবে গণ্য করা হয়েছে।

গার্ডিয়ানের প্রতিবেদনে বলা হয়েছে, ব্যবহারকারীদের ক্ষতিকর সিদ্ধান্ত বা ভ্রান্ত ধারণায় চ্যাটবটগুলোর সমর্থন দেওয়া নিয়ে দীর্ঘদিন ধরে সতর্ক করে আসছেন এআই গবেষক ও জনস্বাস্থ্যবিদরা। অনেকে এআই চ্যাটবটকে মনস্তাত্ত্বিক সহায়তার বিকল্প হিসেবে ব্যবহার করেন। মানসিক স্বাস্থ্য বিশেষজ্ঞরা এটিকে উদ্বেগজনক হিসেবে উল্লেখ করেছেন।