محققان به تازگی آسیبپذیری جدیدی را در «مدلهای کنش-جهان» (WAMs) شناسایی کردهاند که میتواند عملکرد رباتها را مختل کند.
این حمله که تحت عنوان BadWAM معرفی شده، با ایجاد تغییرات کوچک و نامحسوس در ورودیهای بصری، باعث میشود ربات در حالی که تصور میکند عملکرد درستی دارد، رفتاری کاملاً متفاوت و مخرب از خود نشان دهد. این یعنی ربات «آینده را درست تصور میکند، اما اشتباه عمل میکند!»
این کشف زنگ خطری جدی برای توسعهدهندگان سیستمهای خودران و رباتیک است تا امنیت و پایداری این مدلها را در برابر حملات خصمانه بازبینی کنند.
منبع: arXiv Machine Learning