محققان در مقاله جدیدی از روشی به نام «SimVLA» رونمایی کردهاند که استانداردهای حملات تقابلی (Adversarial Attacks) علیه مدلهای بینایی-زبانی (VLPMs) را تغییر میدهد.
نکته جالب اینجاست که برخلاف تصور قبلی، برای نفوذ یا به چالش کشیدن این مدلها نیازی به پیچیدگیهای زیاد نیست. SimVLA با شناسایی خطاهای تعاملی و حذف عملیاتهای اضافه، توانسته دقت حمله را تا ۱۴٪ افزایش و مصرف منابع سختافزاری و زمان اجرا را به شدت کاهش دهد. این یعنی راهی سادهتر و هوشمندانهتر برای درک ضعفهای امنیتی مدلهای چندوجهی!
اگر در حوزه امنیت هوش مصنوعی فعالیت میکنید، بررسی این متد جدید و کدهای آن در گیتهاب خالی از لطف نیست.
منبع: arXiv Computer Vision