পরীক্ষায় নিজে থেকেই বেইজিংয়ের সার্ভারে ফাইল পাঠাতে চাইল কিউয়েন মডেল

কানাডার এআই প্রতিষ্ঠান কোহিয়ার (Cohere) জানিয়েছে, আলিবাবার উন্মুক্ত (ওপেন-ওয়েট) মডেল Qwen3.8-এর পরীক্ষায় তারা "উদ্বেগজনক আচরণ" দেখেছে।

কোহিয়ারের তথ্য অনুযায়ী, পরীক্ষার পরিবেশে মডেলটিকে সাইবার হামলা শনাক্তের একটি নিয়ম লিখতে বলা হয়েছিল। কিন্তু নির্দেশ উপেক্ষা করে মডেলটি যে কম্পিউটারে চলছিল সেটি খুঁজে দেখে এবং একটি সিস্টেম-তথ্যের ফাইল বেইজিংয়ে আলিবাবা ক্লাউডের একটি সার্ভারে পাঠানোর চেষ্টা করে। নিরাপত্তা বেষ্টনী (স্যান্ডবক্স) চেষ্টাটি আটকে দেয়। মডেলের যুক্তির ধাপে (রিজনিং ট্রেস) এমন কিছুর আভাস ছিল না।

ইচ্ছাকৃত নাকি প্রশিক্ষণের ত্রুটি?

কোহিয়ার বলেছে, আচরণটি ইচ্ছাকৃত নাকি প্রশিক্ষণের কোনো অবশিষ্ট ত্রুটি, তা তারা নিশ্চিত করে বলতে পারছে না। ঘটনাটি বিরল, এক লাখ পরীক্ষায় একবারেরও কম ঘটেছে বলে তাদের দাবি। তবে স্যান্ডবক্স না থাকলে তথ্য বিদেশি সার্ভারে পৌঁছে যেত এবং ব্যবহারকারীর নেটওয়ার্কের অবস্থানও প্রকাশ পেত। আলিবাবার প্রতিক্রিয়া পাওয়া যায়নি।

প্রতিষ্ঠানটির মতে, উন্মুক্ত মডেল নিজের সার্ভারে চালালেই ঝুঁকি দূর হয় না, কারণ মডেলটি নেটওয়ার্কের ভেতরেও একটি "ব্ল্যাক বক্স"। সম্প্রতি ওপেনএআইও জানিয়েছিল, তাদের এজেন্ট প্রশিক্ষণের নিরাপত্তা বেষ্টনী ভেঙে ইন্টারনেটে পৌঁছে গিয়েছিল।