آیا تا به حال به این فکر کردید که اگر یک «عامل هوشمند» (AI Agent) در گوشی شما اشتباهی انجام دهد چه میشود؟ شاید یک پیام حساس را پاک کند یا خریدی ناخواسته انجام دهد!
محققان چارچوب جدیدی به نام SeerGuard معرفی کردهاند که قبل از اینکه عامل هوشمند دستوری را اجرا کند، آن را تحلیل میکند. این سیستم با استفاده از یک «مدل دنیای ایمن» (SAWM)، عواقب احتمالی هر کلیک یا اقدام را پیشبینی کرده و اگر خطری در کمین باشد، جلوی آن را میگیرد. این یعنی استفاده از AI روی موبایل، بسیار امنتر از همیشه خواهد شد. 📱✨
منبع: arXiv AI