محققان به تازگی روش خطرناکی را کشف کردهاند که میتواند حریم خصوصی کاربران را در مدلهای «یادگیری فدرال» (Federated Learning) بدون نیاز به دسترسی به گرادیانها تهدید کند.
این روش که «دستکاری انتخابی وزنها» نام دارد، به یک شرکتکننده مخرب اجازه میدهد دادههای حساس دیگران (مثل اطلاعات پزشکی یا کارتهای بانکی) را با دقت ۷۱٪ بازیابی کند. نکته کلیدی اینجاست که حتی اسنپشاتهای میانی آموزش مدل هم میتوانند راه نفوذ برای مهاجمان باشند. این پژوهش زنگ خطری جدی برای توسعهدهندگان سیستمهای هوش مصنوعیِ غیرمتمرکز است تا با روشهای دفاعی جدید از دادههای کاربران محافظت کنند. 🔒
منبع: arXiv Machine Learning