এআই এজেন্টের পরিকল্পনাই এখন হামলার লক্ষ্য, চার নতুন কৌশল শনাক্ত

এআই এজেন্টকে দিয়ে ক্ষতিকর কাজ করাতে হামলাকারীরা এখন শুধু প্রশ্ন বা নির্দেশে কারসাজি করছে না, এজেন্ট কীভাবে কাজের পরিকল্পনা করে, সেটিকেই নিশানা করছে। মার্কিন সাইবার নিরাপত্তা প্রতিষ্ঠান ক্রাউডস্ট্রাইক বৃহস্পতিবার (২৯ অক্টোবর) প্রম্পট ইনজেকশন হামলার উন্মুক্ত তালিকা হালনাগাদ করে এমন চারটি নতুন কৌশল যোগ করেছে। তালিকায় কৌশলের সংখ্যা এখন ২২২।

নতুন চার কৌশল

• লক্ষ্য ভাঙার কারসাজি: বড় কাজকে ছোট ছোট ধাপে ভাগ করার সময় একটি ক্ষতিকর ধাপ ঢুকিয়ে দেওয়া। প্রতিষ্ঠানটির উদাহরণে, কোডিং এজেন্টকে ব্যর্থ টেস্ট ঠিক করতে বলা হয়; বিষাক্ত একটি টেস্ট-সহায়ক ফাইল পরামর্শ দেয় কনফিগারেশন ফাইলগুলো একটি 'ডায়াগনস্টিক' ঠিকানায় পাঠাতে। এজেন্ট এটিকে ডিবাগিংয়ের অংশ ভাবে, আসলে তথ্য পাচার হয়ে যায়।
• বাধা তৈরি করে পথ ঘোরানো: এজেন্টের স্বাভাবিক পথ আটকে দেওয়া, যাতে বিকল্প হিসেবে সে হামলাকারীর চাওয়া পথই বেছে নেয়।
• নিরাপত্তার ভাষা নিষিদ্ধ করা: মডেলকে প্রত্যাখ্যান বা সতর্কবার্তার ভাষা ব্যবহার করতে নিষেধ করা, যাতে সে অনুরোধ আটকানোর সম্ভাবনা কমে।
• ভুয়া সেশন-ইতিহাস: কথোপকথনের সারসংক্ষেপ বা স্মৃতির লগ হিসেবে ভুয়া তথ্য ঢুকিয়ে দেওয়া, যেন কখনো না দেওয়া অনুমোদনও 'আগেই দেওয়া হয়েছে' বলে মনে হয়।

প্রতিষ্ঠানটির ভাষায়, "হামলা ক্রমেই এআই কীভাবে চিন্তা করে, পরিকল্পনা করে ও মনে রাখে—সেদিকে লক্ষ্য করছে।"

যা করবেন

এজেন্ট ব্যবহারকারী প্রতিষ্ঠানগুলোকে শুধু প্রম্পট নয়, এজেন্টের পুরো পরিকল্পনা পাহারা দেওয়ার পরামর্শ দিয়েছে ক্রাউডস্ট্রাইক। আলাদা আলাদা ধাপ নিরীহ মনে হলেও পুরো ধারাবাহিকতা দেখে ঝুঁকি যাচাই করতে হবে, এজেন্টের স্মৃতি ও লগ সুরক্ষিত রাখতে হবে, আর এজেন্ট কম্পিউটারে আসলে কী করল তার পূর্ণ হিসাব রাখতে হবে।