محققان در مقالهای جدید نشان دادند که ابزارهای فعلی برای بررسی امنیت مدلهای هوش مصنوعی (Data Auditing) در شرایطی که به دادههای مخرب دسترسی مستقیم ندارند، دچار ضعفهای جدی هستند.
این مطالعه با معرفی مفهوم «دسته دیدهنشده» (Unseen Class)، ثابت کرده که روشهای مرسوم در برابر حملات استنتاج عضویت عملکرد ضعیفی دارند. در مقابل، «حملات رگرسیون چندکی» (Quantile Regression Attacks) تا ۱۱ برابر دقت بیشتری نسبت به روشهای پیشین نشان دادهاند. این یک هشدار مهم برای تمام توسعهدهندگانی است که امنیت مدلهای خود را بر پایه روشهای قدیمی بنا کردهاند. دنیای امنیت AI مدام در حال تغییر است! 💡
منبع: arXiv Machine Learning