با افزایش استفاده از عاملهای هوشمند (AI Agents) برای گشتوگذار در اینترنت، نگرانیها درباره حملات «تزریق پرامپت» (Prompt Injection) بیشتر شده است. محققان به تازگی سیستم جدیدی به نام «Prismata» معرفی کردهاند که بدون نیاز به تغییرات از سوی توسعهدهندگان سایتها، امنیت عاملها را به شدت افزایش میدهد.
این ابزار با استفاده از «اصل کمترین امتیاز» به صورت خودکار دسترسیهای عامل هوشمند را محدود کرده و مانع از آن میشود که محتوای مخرب وبسایتها باعث نفوذ یا کنترل عامل شود. گام بزرگی برای وبگردی امنتر با هوش مصنوعی! 🌐🤖
منبع: arXiv AI