امنیت در مدلهای توزیعشده هوش مصنوعی یکی از چالشهای بزرگ دنیای تکنولوژی است. محققان به تازگی روش جدیدی به نام FedDAB معرفی کردهاند که به طور خاص برای شناسایی و خنثیسازی «حملات بکدور» در یادگیری فدرال طراحی شده است.
این روش با استفاده از ترکیب «نظارت بر تراز بودن» (Alignment Checking) و تکنیکهای تطبیقی، ناهنجاریها را در دادههای دریافتی از کلاینتها شناسایی کرده و از نفوذ آنها به مدل اصلی جلوگیری میکند. این گام بزرگی برای افزایش پایداری و امنیت سیستمهای یادگیری ماشین در مقیاس بزرگ است.
منبع: arXiv AI