محققان در مطالعهای جدید، به سراغ تحلیل ساختار طیفی (Spectral Structure) مدلهای هوش مصنوعی رفتهاند تا علت آسیبپذیری آنها در برابر حملات خصمانه (Adversarial Attacks) را کشف کنند.
این تیم با معرفی یک حمله جدید به نام SSGRA، نشان دادهاند که چگونه میتوان با دستکاری فضای نهانی مدلهای بینایی-زبانی (VLMs)، عملکرد آنها را مختل کرد. این یافتهها نه تنها زنگ خطری برای امنیت مدلهای فعلی است، بلکه مسیر جدیدی را برای طراحی مدلهای مقاومتر و ایمنتر پیش روی متخصصان قرار میدهد.
اگر در حوزه امنیت هوش مصنوعی فعالیت میکنید، خواندن جزئیات این تحقیق پیشنهاد میشود. 🧠✨
منبع: arXiv AI