محققان در پژوهشی تازه، آسیبپذیری جدیدی به نام HijackKV را در مدلهای زبانی بزرگ کشف کردهاند که میتواند امنیت سیستمهای مبتنی بر کش KV را به خطر بیندازد. 🛡️
ماجرا از این قرار است که تکنیکهای جدید برای افزایش سرعت پاسخدهی (Reuse کردن KV Cache)، راه را برای حملات «هایجک» باز کردهاند. مهاجمان میتوانند با دستکاری ورودی، کاری کنند که مدل بدون اطلاع کاربر، رفتارهای مخربی را نشان دهد؛ حتی اگر متن ورودی کاربر کاملاً عادی به نظر برسد. این حمله در تستها با موفقیت ۹۴ درصدی همراه بوده که نشاندهنده اهمیت حیاتی امنیت در بهینهسازی زیرساختهای هوش مصنوعی است.
توسعهدهندگان باید بیش از هر زمان دیگری به امنیت حافظه و نحوه اشتراکگذاری دادهها در مدلهای بزرگ دقت کنند! 🧠💻
منبع: arXiv Machine Learning