یکی از چالشهای بزرگ دنیای هوش مصنوعی، دومنظوره بودن مدلهاست؛ یعنی همان قابلیتی که میتواند برای درمان یک بیماری مفید باشد، ممکن است برای تولید یک عامل مخرب نیز استفاده شود.
محققان برای حل این مشکل، متد جدیدی به نام GRAM (Gradient-Routed Auxiliary Modules) معرفی کردهاند. این روش به توسعهدهندگان اجازه میدهد بدون نیاز به آموزش چندین مدل سنگین و پرهزینه، قابلیتهای خاصی را در مدلها کنترل یا حذف کنند.
✅ ویژگیهای کلیدی GRAM:
🔹 کاهش ۵ برابری هزینههای آموزش نسبت به روشهای سنتی.
🔹 امکان حذف قابلیتهای خطرناک (مثل کدنویسی مخرب یا دانش بیولوژیک حساس) بدون آسیب به عملکرد عمومی مدل.
🔹 مقاومت بسیار بالاتر در برابر بازگردانی قابلیتهای محدود شده نسبت به روشهای سنتی.
این نوآوری گام بزرگی برای ایمنسازی هوش مصنوعی و جلوگیری از سوءاستفاده از مدلهای قدرتمند است. 🤖✨
منبع: arXiv Machine Learning
