آیا میدانستید ایجنتهای هوش مصنوعی که به فایلها، ایمیل و سیستم عامل شما دسترسی دارند، در برابر حملات «تزریق پرامپت غیرمستقیم» چقدر آسیبپذیرند؟ ⚠️
محققان برای حل این مشکل امنیتی، سیستمی به نام DualView را معرفی کردهاند. این تکنولوژی با ایجاد دو فضای متفاوت برای کار با دادهها (یکی برای هوش مصنوعی و دیگری برای کاربر)، باعث میشود ایجنتها نتوانند فریب دادههای مخرب را بخورند و سیستم شما را به خطر بیندازند. در واقع، هوش مصنوعی دادههای مشکوک را به صورت «نمادین» میبیند، در حالی که شما همچنان به فایلهای اصلی دسترسی دارید. 🔐✨
این نوآوری گام بزرگی برای امنیتِ ایجنتهای خودمختار در دنیای واقعی است.
منبع: arXiv AI