محققان در پژوهش جدیدی متوجه شدند که سیستمهای «هوش مصنوعی تجسمیافته» (Embodied AI) که برای ناوبری در محیطهای واقعی طراحی شدهاند، در برابر حملات خصمانه (Adversarial Attacks) بسیار آسیبپذیر هستند.
این حملات میتوانند باعث گمراهی رباتها و عوامل هوشمند در حین حرکت شوند. خبر خوب اینکه چارچوب جدیدی به نام «AdvNav» معرفی شده که بدون نیاز به دسترسی به ساختار داخلی مدل (Black-box)، به شناسایی و رفع این نقاط ضعف کمک میکند. این یک گام مهم برای امنیت رباتهای آینده در محیطهای واقعی است! 🤖🌐
منبع: arXiv AI