محققان به تازگی آسیبپذیری خطرناکی را در مدلهای بینایی-زبانی-کنترلی (VLA) کشف کردهاند که میتواند امنیت رباتها را به چالش بکشد. این تحقیق نشان میدهد که تنها با تزریق چند نمونه داده مسموم به مجموعه دادههای آموزشی، میتوان یک «در پشتی» (Backdoor) مخفی در ربات ایجاد کرد که عملکرد آن را مختل میکند.
در آزمایشهای انجام شده، این حمله توانست ربات را به طور کامل از کار بیندازد یا آن را در یک وضعیت حرکتی خاص قفل کند، در حالی که در شرایط عادی، ربات کاملاً عادی رفتار میکرد! این یافته زنگ خطری جدی برای اکوسیستم رباتیک متنباز است تا مسئله «اصالت و منشأ دادهها» را جدیتر بگیرند.
امنیت در هوش مصنوعی فراتر از کد است؛ سلامت دادههای آموزشی حرف اول را میزند. 🤖🛡️
منبع: arXiv AI