🔍 وقتی هوش مصنوعی چیزی را می‌بیند که انسان نمی‌بیند! 🤖

محققان در یک پژوهش جدید، نوع عجیبی از حملات مقابله‌ای (Adversarial Attacks) را کشف کرده‌اند که برخلاف روش‌های معمول، هدفش فریب مدل نیست، بلکه «خلق شکاف بین هوش مصنوعی و انسان» است.

در این مطالعه، مدل‌های بینایی ماشین تصاویری را با دقت ۱۰۰٪ شناسایی می‌کنند که برای چشم انسان کاملاً نامفهوم و غیرقابل تشخیص است! این یعنی مدل‌های ما ممکن است به الگوهایی تکیه کنند که هیچ شباهتی به درک بصری انسان ندارد. نکته نگران‌کننده اینجاست که اکثر سیستم‌های تشخیص داده‌های نامرتبط (OOD) و روش‌های دفاعی فعلی، در برابر این نوع دست‌کاری کاملاً ناتوان هستند.

این تحقیق هشدار می‌دهد که باید در نحوه آموزش و ارزیابی مدل‌های بینایی ماشین تجدیدنظر کنیم تا به درک واقعی‌تری از جهان برسند، نه صرفاً بازی با پیکسل‌ها.

منبع: arXiv Computer Vision