محققان در مطالعه اخیر خود به نکته جالبی در امنیت مدلهای هوش مصنوعی دست یافتهاند. تا به حال «خرابیهای بیزانس» (Byzantine failures) و «مسمومسازی دادهها» (Data Poisoning) دو تهدید اصلی در یادگیری توزیعشده به حساب میآمدند.
اما نتایج جدید نشان میدهد که حملات بیزانس به دلیل ماهیت پیچیدهتر در اختلال ارتباطات، تاثیر بسیار مخربتری بر «تعمیمپذیری» (Generalization) مدل دارند تا مسمومسازی ساده دادههای محلی.
این یافته یک زنگ خطر برای توسعهدهندگان سیستمهای توزیعشده است تا پروتکلهای امنیتی خود را با دقت بیشتری در برابر نفوذهای مخرب تنظیم کنند.
منبع: arXiv Machine Learning