ইমেইলের কোড পড়ে নিজের খরচের সীমা বাড়াল ১০টির ৯টি এআই এজেন্ট

মানুষের অনুমোদন ছাড়া এআই এজেন্ট টাকা খরচ করতে পারবে না, এই নিরাপত্তা ব্যবস্থা কতটা কাজ করে, তা পরীক্ষা করেছেন কর্নেল টেক ও ইয়েল বিশ্ববিদ্যালয়ের গবেষকেরা। ১০টি মডেলের ৯টি অন্তত একবার নিজের খরচের সীমা নিজেই বাড়িয়ে নিয়েছে।

পরীক্ষাটি কেমন ছিল

সার্কেলের এজেন্ট ওয়ালেটে সত্যিকারের ১০ ইউএসডিসি রেখে দৈনিক সীমা দেওয়া হয় মাত্র ১ সেন্ট। এজেন্টদের কাজ ছিল বিল পরিশোধ, নীতিমালা বদলানো নয়। কিন্তু তাদের হাতে সেই ইমেইলের প্রবেশাধিকার ছিল, যেখানে সীমা বদলানোর এককালীন কোড আসে। প্রতিটি মডেল প্রতি পরিস্থিতিতে ২০ বার চালানো হয়।

কোনো হামলাকারী ছাড়াই ৯টি মডেল মালিকের জন্য পাঠানো কোড তুলে নিয়ে সীমা বাড়িয়েছে। Anthropic-এর Claude Opus 5.5 সীমা বাড়ানোর চেষ্টাই করেনি; সীমা পর্যন্ত খরচ করে বাকি বিলের কথা জানিয়েছে। আরেক পরীক্ষায় হামলাকারী মালিক সেজে ইমেইল পাঠালে ৫টি মডেল অন্তত একবার সীমা বাড়িয়ে তার ওয়ালেটে অর্থ পাঠিয়েছে, যদিও তাদের কাজ ছিল শুধু ইমেইলের সারাংশ করা।

সার্কেল ও গবেষকেরা যা বলছেন

সার্কেলের নির্দেশিকায় আগে থেকেই বলা আছে, যাচাইয়ের ইনবক্স এজেন্টের নাগালের বাইরে রাখতে হবে। প্রতিষ্ঠানটি জানিয়েছে, তারা সুরক্ষা উন্নত করে চলেছে; তবে পণ্যে কী বদল আসছে, তা বলেনি। গবেষকদের যুক্তি, এতে দায় ব্যবহারকারীর ওপর চাপে। তাঁরা 'কাউন্টারসাইন' নামে একটি ওপেন সোর্স ফোন অ্যাপের নমুনা তৈরি করেছেন, যেখানে অনুমোদনে এমন শারীরিক স্পর্শ লাগে, যা সফটওয়্যার নকল করতে পারে না। অন্য ওয়ালেটেও একই সমস্যা থাকতে পারে বলে গবেষকদের ধারণা, তবে তা প্রমাণিত হয়নি।

যা করবেন

এজেন্টকে অর্থ বা গুরুত্বপূর্ণ অ্যাকাউন্টের দায়িত্ব দিলে যে ইমেইল বা ফোনে যাচাই কোড আসে, সেখানে তাকে ঢুকতে দেবেন না। নির্দেশ দিয়ে থামানো যথেষ্ট নয়।