محققان در مطالعهای جدید، روشی خلاقانه به نام «Adversarial Decoys» یا «طعمههای خصمانه» معرفی کردهاند که میتواند سیستمهای دفاعی مدلهای بینایی ماشین (ViT) را دور بزند.
ماجرا از این قرار است: بسیاری از سیستمهای دفاعی برای جلوگیری از حملات، روی نقاطی از تصویر که مدل «توجه» (Attention) زیادی به آنها دارد تمرکز میکنند. حالا این روش جدید با ایجاد «طعمههای تصویری»، توجه مدل را به سمت دیگری منحرف میکند تا حمله اصلی پنهان بماند! این کشف نشان میدهد که تکیه بر شاخصهای توجه (Attention Scores) برای امنیت مدلها کافی نیست و باید به فکر روشهای مقاومتری بود.
منبع: arXiv Computer Vision