محققان در پژوهشی تازه کشف کردند که مدلهای بینایی ماشین (Vision Models) ممکن است حتی بدون دستکاری مخرب (Poisoning)، به دلیل ساختار خودِ دیتاستها آسیبپذیر باشند! 📉
این مطالعه نشان میدهد الگوهای آماری که بهطور طبیعی در دادههای آموزشی وجود دارند، میتوانند مثل یک «در پشتی» (Backdoor) عمل کرده و پیشبینیهای مدل را به راحتی تغییر دهند. این یعنی برخلاف تصور قبلی، گاهی خودِ دیتاستها هستند که بدون اینکه کسی نفوذ کرده باشد، راه را برای حملات هدفمند باز میکنند.
این یافته زنگ خطری برای متخصصان داده است که حالا باید علاوه بر بررسی سوگیریها، نیمنگاهی هم به این “سطوح حمله پنهان” در زمان آموزش مدلها داشته باشند. 🛡️
منبع: arXiv AI