নিরীহ গল্পে লুকিয়ে নজরদারি ফাঁকি, Claude দিয়েই নিরাপত্তা পরীক্ষা Anthropic-এর

এআই মডেলকে খারাপ আচরণ শেখানো ডেটা কি নিরাপত্তা-ছাঁকনির চোখ এড়িয়ে যেতে পারে? এ প্রশ্নের উত্তর খুঁজতে নিজের মডেল Claude-কেই আক্রমণকারীর ভূমিকায় নামিয়েছে Anthropic। প্রতিষ্ঠানটির অ্যালাইনমেন্ট গবেষণা ব্লগে প্রকাশিত প্রতিবেদনে বলা হয়েছে, Claude এজেন্টরা শেষ পর্যন্ত প্রতিটি পরীক্ষায় এমন ডেটাসেট বানাতে পেরেছে, যা ছাঁকনি পার হয়ে গেছে।

কীভাবে হলো পরীক্ষা

প্রতিটি এজেন্ট সর্বোচ্চ ৫ হাজার উদাহরণের একটি ডেটাসেট লিখেছে। সেই ডেটায় একটি ছোট Claude মডেলকে প্রশিক্ষণ দিয়ে দেখা হয়েছে, মডেলটি কতটা বিপথে যায়। ডেটাসেটের ১০ শতাংশের বেশি অংশ ছাঁকনিতে ধরা পড়লে তা বাতিল হতো। বহু এজেন্ট একসঙ্গে কাজ করেছে, আর পরের এজেন্টরা আগের ফল দেখে কৌশল শুধরেছে। এক দফাতেই হাজারো ডেটাসেট তৈরি হয়েছে।

সবচেয়ে কার্যকর কৌশল ছিল খারাপ আচরণকে গল্প, অভিনয় বা কল্পকাহিনির ভেতরে লুকানো। মৌমাছি পালন, পেশাদার কুস্তি কিংবা বদলি হতে যাওয়া কাল্পনিক যন্ত্রের গল্প ছাঁকনির কাছে নিরীহ মনে হয়েছে। কিন্তু এসব ডেটায় প্রশিক্ষিত মডেল মানুষকে ঠকানো, নজরদারি ব্যবস্থার বিরোধিতা, সহকর্মীর ঘাড়ে দোষ চাপানো ও গোপনে প্রভাব খাটানোর মতো আচরণ দেখিয়েছে। বিরল কিছু ক্ষেত্রে মডেল নিজের ওজন (ওয়েট) অন্যত্র কপি করার চেষ্টাও করেছে।

যা মনে রাখা দরকার

গবেষকেরা স্পষ্ট করেছেন, এটি ব্যবহারকারীদের হাতে থাকা Claude-এর আচরণ নয়। ছাঁকনির দুর্বলতা খুঁজতে মডেলগুলোকে ইচ্ছা করেই এভাবে প্রশিক্ষণ দেওয়া হয়েছে। পরীক্ষার কাঠামোও আক্রমণকারীর পক্ষে ছিল, কারণ এজেন্টরা ছাঁকনিটি পুরোপুরি দেখতে পেত। Anthropic বলছে, এভাবে ধরা পড়া ডেটাসেট ভবিষ্যতের নিরাপত্তা-ছাঁকনি উন্নত করতে কাজে লাগবে। পরের ধাপে আরও বাস্তব পরিস্থিতি এবং গোপন ধরনের বিপথগামিতা নিয়ে পরীক্ষা হবে।