محققان در یک مطالعه جدید، چالش امنیتی مهمی را در زمینه «یادگیری فدرال» (Federated Learning) در گزارشهای رادیولوژی کشف کردهاند.
این تحقیق نشان میدهد که چگونه مهاجمان میتوانند با استفاده از حملات «وارونسازی گرادیان»، اطلاعات حساس بیماران را از مدلهای آموزشدیده بازسازی کنند. این پژوهش بهطور خاص بررسی کرده که چگونه نوع «توکنایزر» (Tokenizer) مدلها (مثل LLaMA-2 یا RadBERT) میتواند بر میزان لو رفتن دقیق اطلاعات متنی تأثیر بگذارد.
این یافتهها زنگ خطری جدی برای توسعهدهندگان سیستمهای هوشمند در حوزه سلامت است تا در طراحی معماری مدلهای خود، امنیت دادههای خصوصی را در اولویت بالاتری قرار دهند.
منبع: arXiv Machine Learning