دنیای عاملهای هوش مصنوعی (AI Agents) که میتوانند مثل یک انسان با گوشی شما کار کنند، در حال پیشرفت است؛ اما این تکنولوژی چالشهای امنیتی و حریم خصوصی جدی هم دارد.
محققان به تازگی سیستم جدیدی به نام «OS-Sentinel» را معرفی کردهاند که به صورت ترکیبی از روشهای منطقی (Formal Verification) و قضاوتهای هوشمند مبتنی بر مدلهای بینایی-زبانی (VLM) استفاده میکند تا حرکات خطرناک یا غیرمجاز هوش مصنوعی را در محیط گوشی تشخیص دهد.
این ابزار نه تنها امنیت کار با اپلیکیشنها را بالا میبرد، بلکه با محیط تست «MobileRisk-Live» به توسعهدهندگان کمک میکند تا امنیت دستیارهای هوشمند را قبل از عرضه عمومی دقیقتر ارزیابی کنند. این یک قدم مهم برای حرکت به سمت هوش مصنوعیهای موبایلیِ قابل اعتمادتر است. 📱🚀
منبع: arXiv Computer Vision