مدلهای یادگیری عمیق، بهویژه شبکههای عصبی پیچشی (CNN)، با وجود موفقیتهای بزرگ، در برابر حملات «نمونههای خصمانه» (Adversarial Examples) آسیبپذیر هستند. این حملات با تغییرات جزئی در ورودی، هوش مصنوعی را به اشتباه میاندازند.
محققان به تازگی چارچوب جدیدی به نام CausAdv معرفی کردهاند که با استفاده از «استدلال علی» (Causal Reasoning) و تحلیل دادههای ضدواقعی (Counterfactual)، این نمونههای مخرب را شناسایی میکند. نکته جذاب این روش این است که برای شناسایی حملات، نیازی به آموزش یک مدل تشخیص جداگانه ندارد و با تحلیل ویژگیهای درونی شبکه، دقت تشخیص را بالا میبرد.
اگر به امنیت هوش مصنوعی و مدلهای مستحکمتر علاقه دارید، حتماً مخزن گیتهاب این پروژه را بررسی کنید!
🔗 کد پروژه: https://github.com/HichemDebbi/CausAdv/tree/main
منبع: arXiv Computer Vision