🛡️ نبرد با حملات خصمانه؛ چرا هوش مصنوعی گاهی «اشتباه» یاد می‌گیرد؟

🧠 چرا هوش مصنوعی گاهی «خیالات» می‌بیند؟

سیستم‌های بینایی ماشین در خودروهای خودران و زیرساخت‌های هوشمند، با چالش جدی «حملات خصمانه» (Adversarial Attacks) روبرو هستند. محققان در یک مطالعه جدید، متوجه شدند که مدل‌ها گاهی به جای یادگیری ویژگی‌های اصلی اشیاء، فریب بافت‌های خاصی را می‌خورند که به آن‌ها «میان‌بر» می‌گویند.

برای حل این مشکل، چارچوب نوآورانه InsCAT معرفی شده است. این روش با استفاده از یادگیری تقابلی، به مدل یاد می‌دهد که فریب بافت‌های جعلی را نخورد و در شرایط واقعی و پیچیده، با دقت خیره‌کننده ۹۶.۶ درصد اشیاء را تشخیص دهد. این یعنی گامی بزرگ برای ایمنی بیشتر خودروهای خودران در دنیای واقعی! 🚗💨

منبع: arXiv Computer Vision