🛡 چالش جدید برای مدل‌های بینایی ماشین: آیا هوش مصنوعی در برابر حملات «ضد-تصویر» ایمن است؟

محققان در پژوهشی جدید، سیستم جامعی به نام ALLUDE را برای ارزیابی حملات «ضد-دشمن» (Adversarial Attacks) علیه مدل‌های بینایی ماشین معرفی کرده‌اند.

این سیستم که به صورت متن‌باز منتشر شده، به توسعه‌دهندگان اجازه می‌دهد تا مدل‌های خود را در شرایط متنوع آب‌وهوایی، زوایای دوربین مختلف و سناریوهای پیچیده آزمایش کنند. نتایج این بررسی نشان داد که حملات فعلی حتی در شرایط معمولی هم می‌توانند عملکرد مدل‌های تشخیص تصویر را به‌شدت کاهش دهند.

این ابزار گام بزرگی برای افزایش امنیت سیستم‌های بینایی ماشین (مثل خودروهای خودران) در دنیای واقعی است. 🚀

منبع: arXiv AI