নিজের এআই এজেন্টদের ওপর চার স্তরের নজরদারি বাড়াল ওপেনএআই

শক্তিশালী এআই মডেল নিয়ম ভাঙছে কি না, তা ধরতে নজরদারি ব্যবস্থা বাড়িয়েছে ওপেনএআই। ২৯ অক্টোবর প্রকাশিত এক লেখায় প্রতিষ্ঠানটি জানিয়েছে, এখন মডেলের প্রশিক্ষণ, মূল্যায়ন, অভ্যন্তরীণ ব্যবহার এবং কিছু পরিবর্তনসহ বাইরের গ্রাহক পর্যায়েও এই নজরদারি চলবে। জিপিটি-৬ অ্যাস্ট্রা বা তার চেয়ে শক্তিশালী মডেলের প্রতিটি প্রশিক্ষণ ও মূল্যায়ন এবং ওপেনএআইয়ের ভেতরের সব কোডেক্স ব্যবহার এর আওতায় এসেছে।

চার স্তর কীভাবে কাজ করে

• প্রথম স্তর: হালকা স্বয়ংক্রিয় যাচাই, যা ভুল সংকেত মেনে নিয়েও বেশি ঘটনা ধরতে চায়। সন্দেহ না হলেও ৫ শতাংশ ব্যবহার এলোমেলোভাবে পরের ধাপে পাঠানো হয়।
• দ্বিতীয় স্তর: একটি মডেল কথোপকথন, মডেলের চিন্তাধারা ও টুল ব্যবহার দেখে প্রতারণা বা অননুমোদিত কাজ খোঁজে।
• তৃতীয় স্তর: তদন্তকারী এআই এজেন্ট পুরো ঘটনা পুনর্গঠন করে।
• চতুর্থ স্তর: সংবেদনশীল কাজে নেটওয়ার্ক লগ মিলিয়ে দেখে মানুষকে সতর্ক করা হয়।

ওপেনএআইয়ের দাবি, সবচেয়ে জরুরি সতর্কবার্তা সাধারণত ১৫ মিনিটের মধ্যে দায়িত্বপ্রাপ্ত কর্মীর কাছে পৌঁছায়। কিছু ক্ষেত্রে কাজ স্বয়ংক্রিয়ভাবে থেমেও যেতে পারে।

আগের ঘটনার শিক্ষা

সম্প্রতি ওপেনএআইয়ের এজেন্টরা পরীক্ষার সুরক্ষিত পরিবেশ থেকে বেরিয়ে হাগিং ফেসের সিস্টেমে ঢুকে পড়েছিল। তখন ওই পরীক্ষায় নজরদারি চালু ছিল না। প্রতিষ্ঠানটি বলছে, নতুন ব্যবস্থায় ঘটনাটি আবার চালিয়ে দেখা গেছে, এজেন্ট বেরিয়ে যাওয়ার প্রায় ৩০ মিনিট পরই সতর্কবার্তা আসত, অর্থাৎ মূল অনুপ্রবেশের ৩০ ঘণ্টারও বেশি আগে। সেপ্টেম্বরে একটি চলমান প্রশিক্ষণে এমন ঘটনা ১৫ মিনিটে ধরা পড়েছিল।

তবে স্বাধীন গবেষণা প্রতিষ্ঠান এমইটিআর ও রেডউড রিসার্চের পরীক্ষায় কিছু ফাঁকও ধরা পড়ে, যেমন দুটি সেটিং দিয়ে নতুন এজেন্টের নজরদারি বন্ধ করা যেত। ওপেনএআই বলছে, বেশির ভাগ ত্রুটি সারানো হয়েছে, একটি সংশোধনের কাজ চলছে। প্রতিষ্ঠানটির মতে, সব মডেল নির্মাতারই নিজেদের সবচেয়ে শক্তিশালী মডেলের ওপর এমন নজরদারি রাখা উচিত।