آیا هوش مصنوعی ممکن است از کنترل خارج شود؟ محققان در یک پژوهش جدید، به جای تکیه بر نرمافزار، به سراغ راهکارهای «سختافزاری» رفتهاند. آنها مکانیسمهای جدیدی در معماری پردازندهها (GPU) طراحی کردهاند که به صورت پویا منابع سختافزاری (مثل حافظه و پهنای باند کش L2) را محدود میکند.
این یعنی اگر نیاز باشد عملکرد یک مدل هوش مصنوعی را به دلایل امنیتی یا نظارتی کاهش دهیم، میتوانیم مستقیماً در سطح سختافزار آن را «کند» یا محدود کنیم. این روش نهتنها ارزان و سریع است، بلکه یک لایه دفاعی نفوذناپذیر برای جلوگیری از رفتارهای غیرمنتظره مدلهای فوقهوشمند ایجاد میکند.
این گام مهمی در مسیر امنیت هوش مصنوعی (AI Safety) محسوب میشود که لایهای از کنترل فیزیکی بر دنیای دیجیتال اضافه میکند.
منبع: arXiv Machine Learning