آیا ایجنتهای هوشمندِ ما میتوانند هک شوند؟ محققان بهتازگی حمله جدیدی به نام «GhostWriter» را کشف کردهاند که مستقیماً حافظه بلندمدت ایجنتهای هوش مصنوعی را هدف قرار میدهد.
در این روش، مهاجم با تزریق اطلاعات مخرب به حافظه ایجنت، آن را فریب میدهد تا دستورات ناخواسته را اجرا کند. این حمله که نرخ موفقیت نگرانکنندهای (حدود ۹۸٪) دارد، زنگ خطری جدی برای امنیتِ سیستمهایی است که به ایجنتها دسترسی به ایمیل، تقویم و کدهای برنامهنویسی میدهند.
تیم محققان برای مقابله با این تهدید، ابزار «AM-Sentry» را پیشنهاد دادهاند که وظیفه حفاظت و بازبینی حافظه ایجنتها را بر عهده دارد. با پیشرفتهتر شدن ایجنتهای خودمختار، مباحث امنیتی بیش از هر زمان دیگری اهمیت پیدا کردهاند.
منبع: arXiv AI