مدلهای یادگیری ماشین با وجود پیشرفتهای چشمگیر، همچنان در برابر «حملات خصمانه» (Adversarial Attacks) آسیبپذیرند. محققان به تازگی تکنیک جدیدی به نام «Random Logit Scaling» (به اختصار RLS) را معرفی کردهاند که به عنوان یک لایه دفاعی هوشمند عمل میکند.
این روش با دستکاری هوشمندانه خروجی مدل (Logits) بدون تغییر در دقت اصلی سیستم، مهاجمان را گمراه کرده و نرخ موفقیت حملات «جعبهسیاه» (Black-Box) را به شدت کاهش میدهد. نکته جذاب RLS این است که به صورت پلاگین روی هر مدل آمادهای قابل پیادهسازی است! 🚀
منبع: arXiv Machine Learning