یکی از چالشهای بزرگ در یادگیری فدرال، نفوذ «ارکستراتور» یا مدیر متقلب است که میتواند با دستکاری دادهها، مدلهای شخصی شما را به سمت بیشبرازش (Overfitting) هدفمند سوق دهد.
محققان بهتازگی سه روش دفاعی هوشمند معرفی کردهاند که به کلاینتها اجازه میدهد در همان مراحل اولیه آموزش (تنها پس از ۱ تا ۲ دور)، متوجه این دستکاریها شده و پیش از آسیب دیدن مدل، ارتباط خود را قطع کنند. این متدها شامل شناسایی تغییر برچسبها، تزریق محرکهای مخرب و اثرانگشتگذاری مدل هستند که گامی بزرگ برای امنتر کردن سیستمهای یادگیری توزیعشده به حساب میآیند. 🔐✨
منبع: arXiv AI