حتماً میدانید که ایجنتهای هوش مصنوعی (AI Agents) هر روز بیشتر در کارهای روزمره ما مثل خریدهای آنلاین نفوذ میکنند. اما یک پژوهش جدید نشان میدهد که این دستیارهای هوشمند در برابر «حملات تزریق پرامپت» چقدر آسیبپذیرند!
محققان با معرفی بنچمارک جدیدی به نام StakeBench، بررسی کردهاند که چگونه دستورات مخفی در وبسایتها میتواند رفتار ایجنتها را دستکاری کرده و به کاربران یا کسبوکارها خسارت مالی وارد کند. این تحقیق با تحلیل بیش از ۳۰۰۰ حمله، نشان میدهد که امنیت این ایجنتها چقدر برای دنیای تجارت الکترونیک حیاتی و در عین حال چالشبرانگیز است.
به نظر شما راهکار نهایی برای ایمن کردن این سیستمها چیست؟ نظرتان را برایمان بنویسید! 👇
منبع: arXiv AI