دنیای ایجنتهای هوش مصنوعی (Agentic AI) روز به روز در حال پیشرفت است، اما چالشهای امنیتی مثل تزریق دستور (Prompt Injection) و سوءاستفاده از ابزارها همچنان پابرجاست.
محققان به تازگی فریمورک قدرتمند SingGuard-NSFA را معرفی کردهاند که با استفاده از یک طبقهبندی دقیق از ۱۸۵ نوع ریسک امنیتی، راهکاری عملی برای شناسایی لحظهای تهدیدات ارائه میدهد. این سیستم با پشتیبانی از ۱۳۳ زبان و ارائه مدلهایی با پارامترهای مختلف (از ۰.۸ تا ۹ میلیارد)، میتواند در کمتر از ۵۰ میلیثانیه تهدیدات را شناسایی کرده و امنیت ایجنتها را تضمین کند. این یک گام بزرگ برای توسعهدهندگانی است که به دنبال امنیت بالاتر در پروژههای هوش مصنوعی خود هستند.
منبع: arXiv AI