آیا هوش مصنوعی همیشه قابل اعتماد است؟ تحقیقات جدید نشان میدهد که مدلهای گراف عصبی (GNN) که برای تشخیص ناهنجاری در شبکههای سنسوری استفاده میشوند، در برابر حملات هوشمند «غیرمستقیم» آسیبپذیر هستند.
محققان تکنیک جدیدی به نام BETA معرفی کردهاند که با دستکاریِ هوشمندانهِ بخش محدودی از دادههای سنسورها، میتواند سیستمهای تشخیص ناهنجاری را فریب دهد تا یا یک مشکل واقعی را نادیده بگیرند و یا هشدارهای دروغین ایجاد کنند. این روش توانسته دقت مدلهای پیشرفته را بین ۳۶ تا ۵۰ درصد کاهش دهد که هشداری جدی برای امنیتِ سیستمهای مبتنی بر اینترنت اشیاء (IoT) محسوب میشود.
این تحقیق اهمیت امنیت مدلهای هوش مصنوعی در زیرساختهای حیاتی را بیش از پیش نمایان میکند. نظر شما چیست؛ آیا راهکاری برای مقابله با این نوع حملاتِ زیرپوستی وجود دارد؟
منبع: arXiv Machine Learning