محققان روشی نگرانکننده به نام InferNet ابداع کردهاند که میتواند معماری داخلی مدلهای هوش مصنوعی (مثل BERT یا Inception) را تنها با تحلیل فعالیتهای کارت گرافیک (GPU) لو بدهد!
🔹 این تکنیکِ «حمله جانبی» نیازی به دسترسی مستقیم به مدل ندارد و با بررسی سادهی مصرف حافظه و فراخوانیهای سیستمعامل، ساختار مدل قربانی را با دقت ۱۰۰٪ شناسایی میکند.
این یافته زنگ خطری جدی برای توسعهدهندگانی است که نگران لو رفتن مدلهای اختصاصی و تجاری خود توسط مهاجمان هستند. امنیتِ مدلهای هوش مصنوعی در برابر حملات استخراج (Model Extraction) حالا بیش از هر زمان دیگری اهمیت پیدا کرده است. 🧐
منبع: arXiv Machine Learning