محققان چارچوب جدیدی به نام «Janus» (جانوس) را معرفی کردهاند که امنیت ایجنتهای هوشمند را در پروژههای طولانیمدت متحول میکند. برخلاف روشهای سنتی که فقط محتوا را بررسی میکنند، این مدل با شبیهسازی مسیرهای آینده و استفاده از تکنیکهای پیشبینی، خطرات احتمالی را پیش از آنکه ایجنت دست به کار شود، شناسایی و مسدود میکند.
نتایج نشان میدهد که «Vanguard» (گارد محافظ این سیستم) توانسته امنیت ایجنتها را تا ۱۵.۹ درصد افزایش دهد و در عین حال دقت آنها در انجام وظایف مفید را نیز بالاتر ببرد. گامی بزرگ برای رسیدن به ایجنتهای هوشمندِ امنتر و قابلاعتمادتر! 🚀🤖
منبع: arXiv NLP