محققان در مطالعه جدیدی به بررسی پیچیدگی تایید مدلهای شبکه عصبی (ReLU) پرداختهاند. برخلاف تصور عمومی، این تحقیق نشان میدهد که افزودن «نویز تصادفی» به پارامترهای شبکه، باعث نمیشود فرآیند تایید (Verification) مدلها در برابر حملات خصمانه آسانتر شود.
این نتایج اثبات میکند که حتی با وجود نویز و گرد کردن مقادیر، تایید دقیق و سریع این شبکهها همچنان یک چالش محاسباتی دشوار (NP-hard) باقی میماند. این خبر برای متخصصان امنیت هوش مصنوعی و کسانی که به دنبال ساخت مدلهای نفوذناپذیر هستند، بسیار حائز اهمیت است. 🧠🛡
منبع: arXiv Machine Learning