همانطور که هوش مصنوعی بزرگتر و پیچیدهتر میشود، امنیت آن هم اهمیت حیاتی پیدا میکند. یکی از تهدیدات جدی، «حملات بکدور» (Backdoor Attacks) است که در آن، مهاجمان سعی میکنند با تزریق دادههای مخرب، رفتار مدل را تغییر دهند.
محققان در مقاله جدید خود به سراغ حل این مشکل در مدلهای آموزشی توزیعشده (Decentralized) رفتهاند. آنها با معرفی یک متد جدید مبتنی بر «پویاییهای بهینهسازی»، راهکاری ارائه دادهاند که بدون نیاز به بازبینی کامل و هزینهبرِ مراحل آموزش، میتواند با دقت بسیار بالا، حملات را شناسایی و خنثی کند. این نوآوری اجازه میدهد مدلها با امنیت بیشتر و هزینه محاسباتی بسیار کمتر آموزش ببینند.
گامی بزرگ به سوی مدلهای ایمنتر برای صنایع حساس!
منبع: arXiv Machine Learning