محققان در مطالعهای جدید، روشی به نام «GCB» یا Generative Clean-Image Backdoors را معرفی کردهاند که میتواند مدلهای هوش مصنوعی را به شکلی بسیار ظریف و خطرناک آلوده کند.
🔹 نکته کلیدی اینجاست که در حملات معمول، دقت مدل به شدت افت میکند و شناسایی آن آسان است، اما در روش جدید، مهاجم با استفاده از یک ابزار مولد (InfoGAN)، «تریگرهایی» میسازد که به قدری کوچک و هوشمندانه هستند که افت دقت مدل زیر ۱ درصد باقی میماند و عملاً غیرقابل شناسایی میشوند!
این روش که روی انواع معماریها و تسکهای مختلف از جمله رگرسیون و بخشبندی تصاویر جواب داده، زنگ خطری جدی برای توسعهدهندگان سیستمهای امنیتی و حامیان «امنیت هوش مصنوعی» محسوب میشود.
منبع: arXiv Computer Vision