مدلهای بینایی-زبانی (VLPs) که این روزها در کانون توجه قرار دارند، در برابر حملات خصمانه (Adversarial Attacks) بسیار آسیبپذیر هستند. محققان به تازگی روشی به نام «GeoDetect» را معرفی کردهاند که با تحلیل هندسی فضای جاسازی (Embedding Space) مدلها، رفتارهای غیرعادی و حملات را شناسایی میکند.
این روش با تشخیص انحرافات هندسی، به مدلها کمک میکند تا حملات را با دقت بسیار بالایی شناسایی و دفع کنند. این گام بزرگی برای افزایش امنیت و پایداری هوش مصنوعی در محیطهای واقعی است.
منبع: arXiv Computer Vision