آیا عاملهای هوش مصنوعی (AI Agents) که روی سیستمهای شخصی اجرا میشوند، واقعاً امن هستند؟ پژوهشگران در مقاله جدیدی، دستهبندی جدیدی از تهدیدات به نام «حملات خود-حالتی» را معرفی کردهاند.
در این سناریو، عاملهای هوش مصنوعی که برای عملکرد خود به خواندن و نوشتن فایلهای پیکربندی و حافظه نیاز دارند، ممکن است توسط دستکاریِ سیستمعامل، علیه خودشان تحریک شوند. این یافتهها نشان میدهد که مکانیسمهای امنیتی فعلی سیستمعاملها برای مقابله با چنین حملات پیچیدهای کافی نیستند و نیاز به بازنگری جدی دارند.
اگر در حوزه امنیت هوش مصنوعی یا توسعه ایجنتهای محلی (Local AI) فعال هستید، این مطالعه میتواند دیدگاههای مهمی برای ایمنسازی سیستمها به شما بدهد.
منبع: arXiv AI