محققان در یک پژوهش جدید، فریمورک نوآورانهای به نام «FlowGuard» معرفی کردهاند که امنیت مدلهای هوش مصنوعی چندوجهی (Multimodal) را به سطح بالاتری میبرد.
چالش اصلی این است که حملات مخرب علیه هوش مصنوعی اغلب به صورت توزیعشده (مثلاً در ترکیب تصویر و متن) انجام میشوند تا سیستمهای امنیتی تکبعدی را دور بزنند. FlowGuard با بررسی «سازگاری درونی» بین ورودیهای مختلف، تشخیص میدهد که آیا خروجی مدل با منطق ورودی همخوانی دارد یا خیر.
ویژگیهای کلیدی این ابزار:
✅ کاهش نرخ موفقیت حملات از ۹۰٪ به زیر ۱۵٪
✅ کاهش ۶ برابری تاخیر در پردازش نسبت به روشهای مشابه
✅ دقت بالا با کمترین افت کارایی (کمتر از ۳٪)
این پیشرفت گام بزرگی برای محافظت از ایجنتها و مدلهای پیشرفتهای است که به صورت همزمان دادههای بصری و متنی را پردازش میکنند.
منبع: arXiv AI