🛡️ شناسایی حملات در یادگیری فدرال؛ جلوگیری از نفوذ به مدل‌های هوش مصنوعی

یادگیری فدرال (Federated Learning) یکی از بهترین روش‌ها برای آموزش مدل‌ها بدون نیاز به دسترسی مستقیم به داده‌های کاربران است، اما این تکنولوژی هم نقاط ضعف خاص خود را دارد. محققان به تازگی روی یک تهدید جدی تمرکز کرده‌اند: دستکاری روند آموزش توسط «ارکستراتور» (سرویس مرکزی) برای ایجاد «بیش‌برازش هدفمند» (Targeted Overfitting) در مدل‌های محلی.

در این پژوهش، سه روش نوآورانه برای شناسایی این حملات قبل از وقوع آسیب جدی معرفی شده که به کلاینت‌ها اجازه می‌دهد بلافاصله متوجه دستکاری در داده‌ها شوند. این دستاورد گام بزرگی برای امنیت و پایداری سیستم‌های هوش مصنوعی غیرمتمرکز است.

منبع: arXiv AI