محققان در پژوهشی جدید، متد خطرناکی به نام DRL-CLBA را معرفی کردهاند که میتواند امنیت مدلهای هوش مصنوعیِ تشخیص گفتار را به چالش بکشد!
این حمله با استفاده از یادگیری تقویتشده (DDPG) و تکنیک استگانوگرافی صوتی، «درهای پشتی» (Backdoors) پنهانی را در مدلهای تشخیص صدا ایجاد میکند. نکته ترسناک این است که این حمله به دلیل استفاده از «برچسبهای پاک» (Clean Label)، از دید بسیاری از ابزارهای دفاعی معمولی پنهان میماند و حتی در برابر روشهای ایمنسازی مثل fine-tuning هم مقاوم است.
این دستاورد زنگ خطری جدی برای توسعهدهندگان سیستمهای صوتی هوشمند و دستیارهای مجازی است که باید به فکر لایههای دفاعی قدرتمندتر باشند.
منبع: arXiv AI
