🛡️ امنیت هوش مصنوعی: وقتی مدل‌های «امن» در سیستم‌های چندعاملی شکست می‌خورند!

محققان در یک پژوهش جدید نشان داده‌اند که سیستم‌های هوش مصنوعی «چندعاملی» (Multi-Agent) حتی اگر تک‌تک اجزایشان ایمن باشند، باز هم در برابر حملات آسیب‌پذیرند. مشکل اینجاست که در مسیرهای ارتباطی بین مدل‌ها، امکان تزریق دستورات مخرب وجود دارد که از نگاه سیستم‌های حفاظتی فعلی دور می‌ماند.

راهکار جدید: «ChannelGuard» 🚀
این چارچوب نوآورانه بدون نیاز به آموزش مجدد، با قرار دادن فیلترهای هوشمند در مسیرهای ارتباطی بین عامل‌ها (Agentها)، هرگونه پیام مشکوک را شناسایی و مسدود می‌کند. این یک گام بزرگ برای ساخت سیستم‌های چندعاملی است که واقعاً قابل اعتماد باشند.

منبع: arXiv AI