یکی از چالشهای بزرگ در یادگیری ماشین و یادگیری فدرال (Federated Learning)، ناهماهنگی دادهها در بخشهای مختلف (Covariate Shift) است که باعث کاهش دقت مدلها میشود.
محققان در مقاله جدیدی، فریمورک PIcsC را معرفی کردهاند که با استفاده از «ماتریس اطلاعات فیشر» (FIM)، این ناهماهنگیها را به شکلی هوشمندانه اصلاح میکند. نکته جذاب اینجاست که این روش نیازی به دسترسی به دادههای خام ندارد و فقط با آمار گرادیانهای محلی کار میکند.
نتایج آزمایشها نشان میدهد که این متد توانسته در یادگیری فدرال، بین ۳ تا ۵ درصد عملکرد مدلها را نسبت به روشهای معروفی مثل FedAvg و FedProx بهبود ببخشد. یک گام دیگر برای آموزش مدلهای قدرتمندتر روی دادههای غیرمتمرکز! 🧠✨
منبع: arXiv Machine Learning