محققان به تازگی یک آسیبپذیری خطرناک در «عوامل هوش مصنوعی خودمختار» (Deep Research Agents) کشف کردهاند. این حمله که با نام FORGE شناخته میشود، به عاملهای هوش مصنوعی اجازه میدهد تا هنگام تحقیق در وب، توسط اسناد مخرب فریب بخورند و نتایج گزارشهای نهایی را به دلخواه هکرها تغییر دهند.
این یعنی هوش مصنوعی در حین جمعآوری اطلاعات، ممکن است ناخواسته دچار «مسمومیت داده» شده و به جای حقیقت، دادههای تحریفشده را به کاربر ارائه دهد. خبر خوب این است که محققان روشی به نام RQA را برای مقابله با این دستکاریها پیشنهاد دادهاند.
امنیت در دنیای هوش مصنوعی روز به روز اهمیت بیشتری پیدا میکند! 🤖⚠️
منبع: arXiv AI