محققان در پژوهش جدید خود به یک آسیبپذیری نگرانکننده در سیستمهای هوش مصنوعی تشخیص صدا (Speech Recognition) دست پیدا کردند. این حملات که با نام «Natural Backdoor Attacks» شناخته میشوند، از صداهای محیطی و روزمره ما به عنوان «ماشه» (Trigger) برای نفوذ به مدل استفاده میکنند.
نکته ترسناک ماجرا اینجاست که:
✅ این حملات با نرخ مسمومیت تنها ۵٪، موفقیت ۱۰۰ درصدی دارند!
✅ مدل در تستهای معمولی هیچ افت عملکردی ندارد و شناسایی آن بسیار سخت است.
✅ صداهای طبیعیِ محیط (مثل صدای باد یا ترافیک) میتوانند باعث فعال شدن این دربهای مخفی شوند.
این کشف زنگ خطری جدی برای توسعهدهندگان سیستمهای صوتی هوشمند است تا امنیت مدلها را در برابر ورودیهای طبیعیِ به ظاهر بیخطر، بیشتر جدی بگیرند.
منبع: arXiv Machine Learning