গত দুই সপ্তাহে ওপেনএআই, অ্যানথ্রপিক, মেটা এবং যুক্তরাজ্যের এআই সিকিউরিটি ইনস্টিটিউটের পরীক্ষায় এআই মডেলের প্রত্যাশার বাইরে গিয়ে কাজ করার একাধিক ঘটনা সামনে এসেছে। এসব ঘটনায় কোনো মডেল পরীক্ষার পরিবেশের দুর্বলতা কাজে লাগিয়ে ইন্টারনেটে প্রবেশ করেছে, আবার কোনো মডেলকে পরীক্ষার সময় ইচ্ছাকৃতভাবে এমন সুযোগ দেওয়া হয়েছিল, যাতে তারা সাইবার হামলার চেষ্টা করতে পারে।
জুলাইয়ের শেষ দিকে ওপেনএআইয়ের একটি মডেল হাগিং ফেসের পরীক্ষামূলক পরিবেশে থাকা একটি দুর্বলতা খুঁজে বের করে ইন্টারনেটে প্রবেশের চেষ্টা করে। এরপর অ্যানথ্রপিকও হাজারো পরীক্ষার মধ্যে তিনটি ঘটনায় তাদের ক্লড মডেলের ইন্টারনেট ব্যবহারের সক্ষমতা শনাক্ত করে। যুক্তরাজ্যের এআই সিকিউরিটি ইনস্টিটিউটের পরীক্ষায় ওপেনএআই ও অ্যানথ্রপিকের মডেল সাইবার হামলার চেষ্টা করে এবং ভুয়া মানব পরিচয় তৈরি করে মানুষকে প্রতারিত করার মতো আচরণও দেখা যায়।
মেটাও পরে জানায়, তৃতীয় পক্ষের পরীক্ষার সময় একটি ভুল কনফিগারেশনের কারণে তাদের একটি এআই মডারেল অনিচ্ছাকৃতভাবে ইন্টারনেটে প্রবেশের সুযোগ পেয়েছিল। ঘটনাগুলো ভিন্ন কারণে ঘটলেও এগুলো এআই পরীক্ষার নিরাপত্তা নিয়ে নতুন প্রশ্ন তৈরি করেছে।
সাধারণত জনসাধারণের জন্য উন্মুক্ত করার আগে এআই মডেলগুলোকে ‘স্যান্ডবক্স’ নামে নিয়ন্ত্রিত পরীক্ষার পরিবেশে পরীক্ষা করা হয়। এসব পরিবেশে বাস্তব ব্যবস্থার মতো পরিস্থিতি তৈরি করা হলেও ক্ষতিকর কার্যক্রম ঠেকাতে বিভিন্ন নিরাপত্তা ব্যবস্থা রাখা হয়। কিন্তু সাম্প্রতিক ঘটনাগুলো দেখিয়েছে, শক্তিশালী এআই এ ধরনের পরীক্ষার সীমারেখাও অতিক্রম করতে পারে।
যুক্তরাজ্যের সাইবার নিরাপত্তা বিশেষজ্ঞ অ্যালান উডওয়ার্ডের মতে, সফটওয়্যার পরীক্ষার পুরোনো ধারণা ছিল পরীক্ষাগারে যা ঘটে তা পরীক্ষাগারেই সীমাবদ্ধ থাকবে। কিন্তু সাম্প্রতিক সময়ে তিনটি ঘটনায় সেই ধারণা ভেঙেছে—একটি মডেল নিরাপত্তা ভেঙে বেরিয়েছে, একটি ভুল করে খোলা রাখা পথ ব্যবহার করেছে এবং আরেকটিকে পরীক্ষার উদ্দেশ্যে সরাসরি প্রয়োজনীয় সুযোগ দেওয়া হয়েছিল।
এআই এজেন্টকে ই-মেইল লেখা, বৈঠক পরিচালনা, ক্যালেন্ডার ব্যবস্থাপনাসহ বিভিন্ন কাজের দায়িত্ব দেওয়ার প্রবণতা বাড়ছে। এতে মানুষের সময় ও শ্রম কমানোর সম্ভাবনা থাকলেও একই সঙ্গে মডেলের অনিয়ন্ত্রিত বা অননুমোদিত কর্মকাণ্ডের ঝুঁকিও বাড়ছে। বিশেষ করে ইন্টারনেটে সরাসরি কাজ করার ক্ষমতা পাওয়া এআইয়ের ক্ষেত্রে নিরাপত্তা ঝুঁকি আরও গুরুতর হয়ে উঠতে পারে।
বিশেষজ্ঞদের মতে, এআই যত বেশি সক্ষম হচ্ছে, পরীক্ষার পরিবেশও তত বেশি নিরাপদ ও নিয়ন্ত্রিত করা প্রয়োজন। পরীক্ষার সময় মডেলের প্রতিটি কর্মকাণ্ড পর্যবেক্ষণ, তথ্য বা কার্যক্রম বাইরে যাওয়ার পথ নিয়ন্ত্রণ এবং কোনো সমস্যা হলে দ্রুত ব্যবস্থা নেওয়ার প্রস্তুতি থাকা জরুরি।
সাম্প্রতিক ঘটনাগুলো এআই কোম্পানিগুলোর নিরাপত্তা ব্যবস্থা ও পরীক্ষাপদ্ধতি নিয়ে নিয়ন্ত্রক সংস্থাগুলোর ভূমিকাও সামনে এনেছে। যুক্তরাজ্যে এআই পরীক্ষার জন্য বিশেষায়িত প্রতিষ্ঠান, উন্নত তৃতীয় পক্ষের মূল্যায়ন এবং উচ্চঝুঁকির পরীক্ষার জন্য ‘বিশ্বস্ত পরীক্ষক’ ব্যবস্থা চালুর প্রস্তাব উঠেছে। তবে বিশেষজ্ঞদের মতে, এআই নিয়ে আতঙ্কিত হওয়ার চেয়ে দ্রুত পরীক্ষাপদ্ধতি ও নিরাপত্তা ব্যবস্থা উন্নত করাই এখন সবচেয়ে জরুরি।
