حملات «درهای پشتی» (Backdoor Attacks) یکی از بزرگترین تهدیدهای امنیتی برای مدلهای هوش مصنوعی، بهویژه در سیستمهای حساس مثل خودروهای خودران هستند. خبر خوب اینکه محققان با معرفی سیستم جدید «SpeechGuard»، راهکار هوشمندانهای برای شناسایی و پاکسازی صداهای دستکاری شده پیدا کردهاند.
این سیستم با استفاده از روشی به نام S-STRIP و ترکیب آن با ماسکهای زمان-فرکانس، اجازه نمیدهد تریگرهای مخفی باعث فریب مدلهای تشخیص گفتار شوند. گام بزرگی برای امنتر کردن دنیای تعامل صوتی با هوش مصنوعی! 🎙️🤖
منبع: arXiv Machine Learning