دانشمندان حوزه امنیت هوش مصنوعی در پژوهش جدیدی، نوعی حمله پیچیده به سیستمهای «چندعامله» (Multi-Agent) را شناسایی کردند. در این نوع حمله، کدهای مخرب به صورت قطعات پراکنده بین چندین عامل توزیع میشوند تا سیستمهای امنیتی متوجه ماهیت کل حمله نشوند و تنها زمانی که کار از کار گذشته، همه چیز تجمیع و اجرا میشود.
نکته امیدوارکننده اینجاست که محققان توانستهاند یک روش شناسایی (Detector) ارائه دهند که با رصد رفتار در طول اجرای عملیات، میتواند تا ۹۹٪ این حملات را قبل از اتمام نهایی شناسایی و خنثی کند. این یک گام حیاتی برای امنتر کردن سیستمهای هوشمند خودکار است. 🤖✨
منبع: arXiv AI