با گسترش استفاده از سیستمهای چندعاملی مبتنی بر مدلهای زبانی بزرگ (LLM-MAS) در محیطهای حساس، امنیت به یک چالش حیاتی تبدیل شده است. هکرها حالا از طریق ارتباطات بینعاملی، رفتارهای مخربی را تزریق میکنند که با روشهای سنتی به سختی قابل شناسایی هستند.
محققان به تازگی چارچوب نوآورانه OpenEvoShield را معرفی کردهاند که به صورت «همتکاملی» و مستمر در برابر حملات پویا دفاع میکند. این سیستم با استفاده از روشهایی مثل کنترل نرخ یادگیری نامتقارن و تشخیص مبتنی بر انرژی، قادر است حملات جدید و ناشناخته را شناسایی کند، بدون اینکه دانش قبلی خود را فراموش کند (جلوگیری از فراموشی فاجعهبار).
این دستاورد گام مهمی در جهت ایمنسازی هوش مصنوعی در محیطهای دنیای واقعی است که مدام در حال تغییر و تکامل هستند. 🚀
منبع: arXiv AI