محققان در مطالعه اخیر خود، استراتژی خطرناکی به نام AugMP را معرفی کردهاند که امنیت «آموزش فدرال» (Federated Fine-tuning) در مدلهای زبانی بزرگ (LLM) را هدف قرار میدهد. در این روش، با استفاده از یادگیری گراف، آپدیتهای مخربی ساخته میشود که میتواند عملکرد مدلهای هوش مصنوعی را تا ۲۶ درصد کاهش دهد بدون اینکه شناسایی شود!
این تحقیق هشدار مهمی برای آینده آموزشهای گروهی و اشتراکی مدلهای بزرگ است تا تدابیر امنیتی قویتری در برابر حملات تزریق داده (Data Poisoning) ایجاد شود.
منبع: arXiv Machine Learning