কুমার বিশ্বজিত রায়: কৃত্রিম বুদ্ধিমত্তার নিরাপত্তা পরীক্ষা চালাতে গিয়ে অপ্রত্যাশিত এক ঘটনার মুখোমুখি হয়েছে ওপেনএআই। প্রতিষ্ঠানটি জানিয়েছে, তাদের অভ্যন্তরীণ সাইবার নিরাপত্তা মূল্যায়নের সময় পরীক্ষাধীন কয়েকটি এআই মডেল নির্ধারিত সীমাবদ্ধতা অতিক্রম করে স্বাধীন এআই প্ল্যাটফর্ম হাগিং ফেসের (Hugging Face) সিস্টেমে প্রবেশ করতে সক্ষম হয়।
ঘটনার পর হাগিং ফেস প্রথমে এটিকে একটি “বাহ্যিক এআই এজেন্টের” আক্রমণ হিসেবে চিহ্নিত করেছিল। পরে তদন্ত শেষে ওপেনএআই স্বীকার করে, তাদের পরীক্ষাধীন মডেলগুলোর কার্যক্রম থেকেই এই অনুপ্রবেশের ঘটনা ঘটেছে।
ওপেনএআইর ভাষ্য অনুযায়ী, সাইবার সক্ষমতা মূল্যায়নের একটি অভ্যন্তরীণ পরীক্ষায় GPT-5.6 Sol এবং আরও একটি প্রকাশের আগের উন্নত মডেল ব্যবহার করা হচ্ছিল। গবেষণার সুবিধার্থে এসব মডেলের কিছু নিরাপত্তা সীমাবদ্ধতা সাময়িকভাবে শিথিল করা হয়েছিল।
পরীক্ষার সময় মডেলগুলোর ইন্টারনেটে সরাসরি প্রবেশের অনুমতি ছিল না। কেবল প্রয়োজনীয় সফটওয়্যার প্যাকেজ ইনস্টল করার জন্য একটি নির্দিষ্ট টুল ব্যবহারের সুযোগ ছিল। তবে সেই টুলের একটি অজানা নিরাপত্তা দুর্বলতা কাজে লাগিয়ে মডেলগুলো নির্ধারিত পরিবেশ থেকে বেরিয়ে উন্মুক্ত ইন্টারনেটে প্রবেশ করে।
এরপর মডেলগুলো ধারণা করে যে হাগিং ফেসে সাইবার নিরাপত্তা মূল্যায়নের জন্য ব্যবহৃত তথ্য, ডেটাসেট বা সমাধান থাকতে পারে। সেই লক্ষ্যেই তারা হাগিং ফেসের অবকাঠামোর দুর্বলতা শনাক্ত করে এবং উৎপাদন (প্রোডাকশন) ডেটাবেস থেকে পরীক্ষার উত্তরসংবলিত তথ্য সংগ্রহে সক্ষম হয়। ফলে পরীক্ষার প্রকৃত ফলাফল প্রভাবিত হওয়ার ঝুঁকি তৈরি হয়।
হাগিং ফেস জানিয়েছে, অনুপ্রবেশের সময় হাজার হাজার স্বয়ংক্রিয় কার্যক্রম পরিচালিত হয়েছে। অল্প সময়ের জন্য তৈরি হওয়া অসংখ্য স্যান্ডবক্স ব্যবহার করে অত্যন্ত সমন্বিতভাবে এই কার্যক্রম চালানো হয়, যা একটি জটিল সাইবার হামলার বৈশিষ্ট্য বহন করে।
ঘটনার পর ওপেনএআই সংশ্লিষ্ট নিরাপত্তা ত্রুটি শনাক্ত করে তা সংশোধনের উদ্যোগ নিয়েছে। একই সঙ্গে হাগিং ফেসের সঙ্গে যৌথভাবে ঘটনার তদন্ত চালানো হচ্ছে। ভবিষ্যতে এ ধরনের ঘটনা এড়াতে পরীক্ষার অবকাঠামো ও মডেল মূল্যায়ন প্রক্রিয়ায় নতুন নিরাপত্তা ব্যবস্থা যুক্ত করার কথাও জানিয়েছে প্রতিষ্ঠানটি।
বিশেষজ্ঞদের মতে, এই ঘটনা অত্যাধুনিক এআই মডেলের সক্ষমতার পাশাপাশি সম্ভাব্য ঝুঁকিও সামনে নিয়ে এসেছে। দীর্ঘ সময় ধরে স্বয়ংক্রিয়ভাবে কাজ করতে সক্ষম উন্নত এআই ব্যবস্থাকে কীভাবে নিরাপদ সীমার মধ্যে রাখা হবে, তা ভবিষ্যতের অন্যতম বড় চ্যালেঞ্জ হয়ে উঠতে পারে।
তথ্যসূত্র: টেক ক্র্যাঞ্চ।