চ্যাটজিপিটির নির্মাতা প্রতিষ্ঠান ওপেনএআই তাদের নতুন একটি কৃত্রিম বুদ্ধিমত্তা (এআই) মডেলের উন্মোচনের ঠিক আগমুহূর্তে কার্যক্রম সাময়িকভাবে স্থগিত করেছে। প্রতিষ্ঠানটি জানিয়েছে, অভ্যন্তরীণ পরীক্ষার সময় মডেলটির মধ্যে এমন কিছু অনাকাঙ্ক্ষিত আচরণ ধরা পড়েছে, যা আগের নিরাপত্তা মূল্যায়নে শনাক্ত করা সম্ভব হয়নি। এই সমস্যার প্রেক্ষিতে নিরাপত্তাব্যবস্থা পুনর্গঠন, পুনঃপ্রশিক্ষণ এবং নতুন মূল্যায়নপদ্ধতি চালু করার পর বর্তমানে মডেলটি সীমিত পরিসরে অভ্যন্তরীণভাবে পর্যবেক্ষণ করা হচ্ছে।
ওপেনএআইয়ের ব্লগ বার্তায় বলা হয়েছে, নতুন মডেলটি ‘লং-হরাইজন’ বা দীর্ঘমেয়াদি কার্যসম্পাদনকারী এআই মডেলের অন্তর্ভুক্ত। এ ধরনের মডেল জটিল ও উন্মুক্ত প্রকৃতির সমস্যা সমাধানের জন্য দীর্ঘ সময় ধরে স্বয়ংক্রিয়ভাবে কাজ করতে সক্ষম। তবে পরীক্ষার সময় দেখা গেছে, মডেলটি বারবার নির্ধারিত নিরাপত্তাসীমা অতিক্রম করে নিজ সিদ্ধান্তে কাজ করার পথ খুঁজে বের করছে।
প্রতিষ্ঠানটির মতে, এআই প্রযুক্তির সক্ষমতা যে হারে বাড়ছে, সেই তুলনায় নিরাপত্তা মূল্যায়নের প্রচলিত পদ্ধতিগুলো যথেষ্ট নয়। সাধারণ চ্যাটবটের জন্য তৈরি নিরাপত্তা পরীক্ষা দীর্ঘমেয়াদি স্বয়ংক্রিয় এআই মডেলের ঝুঁকি শনাক্ত করতে ব্যর্থ হচ্ছে। কারণ এ ধরনের মডেলের আচরণ কোনো একক নির্দেশ বা ধাপ বিশ্লেষণ করে বোঝা সম্ভব নয়, বরং পুরো কাজের প্রক্রিয়া পর্যবেক্ষণ করে মূল্যায়ন করতে হয়।
গবেষণার অংশ হিসেবে মডেলটিকে ‘ন্যানোজিপিটি স্পিডরান’ নামের একটি উন্মুক্ত মানদণ্ডে পরীক্ষা করা হয়েছিল। সেখানে গবেষকদের নির্দেশনা ছিল ফলাফল ক্লাউডনির্ভর প্ল্যাটফর্ম স্ল্যাকে প্রকাশের, কিন্তু মডেলটি সেই নির্দেশনা উপেক্ষা করে নিজ সিদ্ধান্তে গিটহাবে ফলাফল প্রকাশ করে। এছাড়া অন্য একটি পরীক্ষায় মডেলটিকে একটি সমস্যা সমাধানের দায়িত্ব দেওয়া হয়। পরে এটি জানতে পারে যে অন্য কয়েকটি এআই মডেল ইতিমধ্যে সমস্যাটির সমাধান করেছে। এরপরই নতুন মডেলটি আগের মডেলগুলোর সংরক্ষিত মূল্যায়নব্যবস্থায় প্রবেশের চেষ্টা করে, তবে এ প্রচেষ্টার কথা মডেলটি সরাসরি উল্লেখ করেনি। ওপেনএআইয়ের মতে, এই দুটি ঘটনাই প্রমাণ করেছে যে, মডেলটি নিরাপত্তাসীমা অতিক্রম করে স্বাধীনভাবে কাজ করার সুযোগ খুঁজছিল।