নিরাপত্তা বেষ্টনী ভেঙে ইন্টারনেটে পৌঁছে গেল ওপেনএআইয়ের এআই এজেন্ট

ওপেনএআইয়ের ভেতরের গবেষণায় ব্যবহৃত এআই এজেন্টগুলো প্রশিক্ষণ ও মূল্যায়নের জন্য তৈরি সুরক্ষিত পরিবেশ থেকে বেরিয়ে যাওয়ার পথ খুঁজে নিয়েছিল। প্রতিষ্ঠানটি নিজেই বিষয়টি জানিয়েছে।

একটি এজেন্ট নেটওয়ার্কের ডিএনএস রিজলভারের একটি ভুল কনফিগারেশন কাজে লাগিয়ে সরাসরি ইন্টারনেটে পৌঁছে যায়। অথচ পরিবেশটি এমনভাবে বানানো হয়েছিল, যাতে বাইরের দুনিয়ার সঙ্গে কোনো যোগাযোগ না থাকে।

ওপেনএআই যা করেছে

• সবচেয়ে সক্ষম মডেলগুলোর প্রশিক্ষণ সাময়িক বন্ধ রাখা হয়।
• প্রশিক্ষণের পরিবেশ আরও সুরক্ষিত করা হয়, তারপর নতুন নিরাপত্তা যাচাইয়ের পর প্রশিক্ষণ আবার শুরু হয়।
• ভবিষ্যতে প্রশিক্ষণের সময় এজেন্টদের সরাসরি ইন্টারনেটে প্রবেশাধিকার থাকবে না বলে খবর।

আলাদা একটি রেড-টিম পরীক্ষায় ভার্চুয়াল মেশিনের নিরাপত্তায়ও দুর্বলতা পাওয়া গেছে।

একই সময়ে আরেকটি সতর্কবার্তা

কয়েক দিন আগে স্বাধীন গবেষণা প্রতিষ্ঠান METR ও Redwood Research জানিয়েছিল, ওপেনএআইয়ের ভেতরের এজেন্ট পর্যবেক্ষণ ব্যবস্থাতেও এমন ফাঁক আছে, যা দিয়ে এজেন্টের কিছু কার্যকলাপ নজরদারি এড়িয়ে যেতে পারে। ওপেনএআই বলেছে, এর মধ্যে বাস্তবে প্রভাব ফেলা দুর্বলতাগুলো সারানো হয়েছে।