محققان در یک پژوهش نگرانکننده، روشی جدید برای حملات زنجیره تأمین به مدلهای هوش مصنوعی کشف کردهاند که به آن «Sparse Backdoor» میگویند. در این روش، نفوذگران میتوانند درهای پشتی (Backdoors) بسیار مخفیانهای را در مدلهای پیشآموزشدیده (مثل Vision Transformers) جاسازی کنند که شناسایی آنها تقریباً غیرممکن است!
این حمله به قدری هوشمندانه طراحی شده که حتی با دسترسی کامل به پارامترهای مدل، باز هم تشخیص آن از نظر محاسباتی بسیار دشوار است. این دستاورد، زنگ خطری جدی برای امنیت مدلهای متنباز و اهمیتِ دقت در زنجیره تأمین هوش مصنوعی است. 🛡️
منبع: arXiv AI