آیا تا به حال به این فکر کردهاید که اگر یک دستیار هوشمندِ شخصی داشته باشید، چقدر امنیت آن در برابر ایمیلهای مخرب اهمیت دارد؟ محققان به تازگی تهدیدی جدید به نام «تزریق حافظه پنهان» (Stealth Memory Injection) را شناسایی کردهاند.
در این روش، مهاجمان میتوانند با ارسال یک ایمیلِ بهظاهر ساده، اطلاعات مسمومی را به حافظه بلندمدت دستیار شما تزریق کنند. این اطلاعات مخفی میماند و بعداً دستیار شما را مجبور میکند رفتارهای غیرمنتظرهای داشته باشد یا اطلاعات حساس را لو دهد.
محققان برای مطالعه این تهدید، بنچمارکی به نام «WhisperBench» و ابزاری به نام «MemGhost» معرفی کردهاند تا ثابت کنند این حملات چقدر میتوانند دقیق و موفق باشند. این موضوع زنگ خطری جدی برای آینده توسعهدهندگانِ مدلهای شخصی و خودمختار (Agentic AI) است.
منبع: arXiv AI