آیا «Speculative Decoding» که برای افزایش سرعت پاسخدهی مدلهای زبانی استفاده میشود، امن است؟ محققان بهتازگی حمله جدیدی به نام ADSD را شناسایی کردهاند که میتواند با دستکاری ورودیها (Adversarial Prompts)، عملکرد این سیستمهای سریعساز را مختل کند.
این روش با فریب دادن مکانیزم «تأیید» (Verification) مدل، باعث میشود هوش مصنوعی بهجای خروجی بهینه، در چرخهای از خطاهای محاسباتی بیفتد که سرعت پاسخدهی را تا ۶۰ درصد کاهش میدهد، بدون اینکه کیفیت پاسخ تغییر چندانی کند! این کشف زنگ خطری برای امنیت زیرساختهای هوش مصنوعی است که از روشهای شتابدهنده استفاده میکنند. ⚠️🤖
منبع: arXiv Machine Learning