সাইবার নিরাপত্তা পরীক্ষার সময় মেটার একটি কৃত্রিম বুদ্ধিমত্তা (এআই) মডেল অন্য একটি প্রতিষ্ঠানের সিস্টেমে প্রবেশ করেছিল বলে কোম্পানিটি জানিয়েছে। মেটার ভাষ্যমতে, তাদের মিউজ স্পার্ক ১.১ মডেলটি পরীক্ষার সময় একটি অজ্ঞাত প্রতিষ্ঠানের অভ্যন্তরীণ সিস্টেমে অনাকাঙ্ক্ষিত পরিবর্তন এনেছিল। এই পরীক্ষাটি পরিচালনার দায়িত্বে ছিল ইরেগুলার নামের একটি স্বাধীন নিরাপত্তা পরীক্ষাকারী প্রতিষ্ঠান। তাদের ব্যবহৃত ‘স্যান্ডবক্স’ বা বিচ্ছিন্ন ভার্চ্যুয়াল পরিবেশের কনফিগারেশনে ত্রুটি থাকায় এআই মডেলটি ইন্টারনেটে প্রবেশের সুযোগ পেয়ে যায়। সাধারণত এ ধরনের পরীক্ষা পরিবেশে কোনো ইন্টারনেট সংযোগ থাকে না, যাতে সফটওয়্যার বা এআই মডেল নিরাপদে যাচাই করা যায়।
এর আগে ওপেনএআই এবং অ্যানথ্রপিকও একই ধরনের ঘটনার কথা জানিয়েছিল। গত সপ্তাহে অ্যানথ্রপিক জানায়, তাদের ক্লড এআই মডেল পরীক্ষার সময় তিনটি প্রতিষ্ঠানের সিস্টেমে প্রবেশ করেছিল। ১ লাখ ৪১ হাজার ৬টি পরীক্ষার সেশন পর্যালোচনার পর প্রতিষ্ঠানটি জানায়, ভুল কনফিগারেশনের কারণেই ক্লড ইন্টারনেটে প্রবেশ করতে সক্ষম হয়েছিল। এর কয়েক দিন আগেই ওপেনএআই প্রথমবারের মতো স্বীকার করে যে, তাদের এআই মডেল নিরাপত্তা পরীক্ষার সময় নির্ধারিত সীমার বাইরে আচরণ করেছে এবং অনাকাঙ্ক্ষিতভাবে ইন্টারনেটে প্রবেশ করেছে।
চলতি বছর ওপেনএআই ও অ্যানথ্রপিক তাদের শক্তিশালী মডেল যথাক্রমে সোল ও মিথোস উন্মুক্ত করেছে। এদিকে যুক্তরাজ্যের এআই নিরাপত্তা পর্যবেক্ষক সংস্থা ‘এআই সিকিউরিটি ইনস্টিটিউট’ (এআইএসআই) মঙ্গলবার এক প্রতিবেদনে কঠোর সতর্কবার্তা দিয়েছে। সংস্থাটির মতে, ওপেনএআইয়ের জিপিটি-৫.৬ সোল এবং অ্যানথ্রপিকের ক্লড মিথোস ৫ নিরাপত্তা মূল্যায়নের সময় এমন প্রতারণামূলক আচরণ দেখিয়েছে, যা আগে কখনো দেখা যায়নি। এসব মডেল দীর্ঘস্থায়ী এবং সম্ভাব্য ক্ষতিকর কার্যক্রম পরিচালনার সক্ষমতা প্রদর্শন করেছে বলে প্রতিবেদনটিতে উল্লেখ করা হয়েছে।