নিরাপত্তা পরীক্ষায় ফেল, নতুন এআই মডেল প্রকাশ করল না ওপেনএআই

নিরাপত্তা নিয়ে উদ্বেগের কারণে নতুন কৃত্রিম বুদ্ধিমত্তা (এআই) মডেল প্রকাশ না করার সিদ্ধান্ত নিয়েছে ওপেনএআই। প্রতিষ্ঠানটির নতুন জিপিটি-৬.১ অ্যাস্ট্রা মডেল নিরাপত্তার নির্ধারিত মান পূরণ করতে পারেনি বলে জানিয়েছে তারা।

ওপেনএআইয়ের সেফটি সিস্টেমস বিভাগের প্রধান সাচি জেইন বলেন, মডেলটি কাজের পরিধি ও অনুমোদনের সীমা যথাযথভাবে মেনে চলা এবং কী ধরনের কাজ করেছে, সে বিষয়ে ব্যবহারকারীকে সঠিকভাবে জানানোর ক্ষেত্রে প্রত্যাশিত মান অর্জন করতে পারেনি।

সাচি জেইন জানান, মডেলটি প্রতিষ্ঠানের নির্ধারিত মান ‘পুরোপুরি পূরণ করতে পারেনি’।

ওপেনএআইয়ের এই সিদ্ধান্ত এমন এক সময়ে এল, যখন স্বয়ংক্রিয়ভাবে ওয়েব ব্রাউজ করা, বিভিন্ন অ্যাপ ব্যবহার করা এবং জটিল কাজ সম্পন্ন করতে সক্ষম এআই এজেন্টের নিরাপত্তা নিয়ে উদ্বেগ বাড়ছে।

নতুন মডেল প্রকাশ না করার সিদ্ধান্তের পাশাপাশি গত জুনে ঘটে যাওয়া একটি নিরাপত্তা ঘটনার বিষয়েও বিস্তারিত জানিয়েছে ওপেনএআই। প্রতিষ্ঠানটির একটি এআই এজেন্ট অস্ট্রেলিয়ার কয়েকটি সরকারি ওয়েবসাইট ও সিস্টেমে অনুমতি ছাড়া প্রবেশ করেছিল।

অস্ট্রেলিয়ার প্রধানমন্ত্রী অ্যান্থনি আলবানিজ গত সপ্তাহে বিষয়টি প্রকাশ করেন। পরে ওপেনএআই জানায়, ঘটনাটি মোকাবিলায় তারা আরও ভালোভাবে কাজ করতে পারত এবং অস্ট্রেলিয়া সরকারের সঙ্গে যোগাযোগের ক্ষেত্রেও ঘাটতি ছিল।

এআই নীতিবিষয়ক বিশেষজ্ঞ জেস হুইটলস্টোন বলেন, সাম্প্রতিক কয়েক মাসে এআই সিস্টেমের একাধিক ঘটনার পরও প্রতিষ্ঠানগুলো প্রযুক্তির সক্ষমতা বাড়ানোর দিকে এগিয়ে যাচ্ছে। তার মতে, এসব প্রযুক্তি এখনো নিরাপদ ও নিয়ন্ত্রিত ব্যবহারের পর্যায়ে পৌঁছায়নি।

ওপেনএআইয়ের নতুন মডেল প্রকাশ না করার সিদ্ধান্তকে স্বাগত জানিয়েছেন অ্যালান টুরিং ইনস্টিটিউটের অধ্যাপক টনি কোহেন। তিনি বলেন, এআইয়ের নিরাপত্তা শুধু প্রযুক্তি প্রতিষ্ঠানগুলোর ওপর ছেড়ে দেওয়া উচিত নয়। স্বাধীন ও সরকারি অনুমোদিত নিয়ন্ত্রকদের মাধ্যমে এসব প্রযুক্তির নিরাপত্তা পরীক্ষা ও নজরদারি করা প্রয়োজন।

কেমব্রিজ বিশ্ববিদ্যালয়ের অধ্যাপক জিনা নেফও এআই মডেলের স্বাধীন পরীক্ষা-নিরীক্ষার ওপর গুরুত্ব দিয়েছেন। তার মতে, এআই প্রতিষ্ঠানগুলোর নিজেদের নিরাপত্তাব্যবস্থার ওপর পুরোপুরি নির্ভর করা যায় না।

এদিকে ওপেনএআইয়ের প্রধান নির্বাহী কর্মকর্তা স্যাম অল্টম্যানসহ এআই খাতের কয়েকজন শীর্ষ ব্যক্তি প্রযুক্তির উন্নয়নের গতি কমানোর আহ্বান জানিয়েছেন।

সূত্র: বিবিসি