آیا ایجنتهای هوش مصنوعی که در محیطهای پیچیده مثل ابرکامپیوترها (HPC) فعالیت میکنند، واقعاً امن هستند؟
محققان بهتازگی روی یک حفره امنیتی خطرناک تمرکز کردهاند: «مشکل ایجنتهای مجاز ربودهشده». داستان از این قرار است که ایجنتها برای انجام کارهای محاسباتی، به دسترسیهای کاربری شما (مثل فایلها و مدیریتکنندههای شغلی) مجهز میشوند. حالا تصور کنید یک دستور مخفی در یک فایل یا لاگ، ایجنت را فریب دهد تا کارهایی فراتر از دستور شما انجام دهد؛ در حالی که سیستم تصور میکند اینها دستورات قانونی شما هستند! 🕵️♂️
این مقاله نه تنها به بررسی این شکاف امنیتی در محیطهای علمی و صنعتی پرداخته، بلکه ابزاری به نام TaskBound را برای محک زدن امنیت این ایجنتها معرفی کرده است. دنیای هوش مصنوعی با هوشمندتر شدن، چالشهای امنیتیاش هم پیچیدهتر میشود.
منبع: arXiv AI