محققان به تازگی کشف کردهاند که ایجنتهای هوشمند (LLM Agents) با یک حفره امنیتی جدید روبرو هستند: مسمومسازی تاریخچه استدلال!
در این حمله که با نام FARMA شناخته میشود، مهاجم با تزریق استدلالهای جعلی به حافظه ایجنت، او را وادار به تصمیمات اشتباه میکند. خبر خوب اینکه راهکار دفاعی جدیدی به نام SENTINEL نیز معرفی شده که با تحلیل ساختاری، این جعلها را با دقت بسیار بالا شناسایی و خنثی میکند. این دستاورد گام بزرگی برای افزایش امنیتِ ایجنتهایی است که قرار است در کارهای حساس به کار گرفته شوند.
منبع: arXiv AI