مدلهای زبانی بزرگ (LLM) حالا از محیطهای ایزوله آزمایشگاهی بیرون آمده و در حال اجرا روی گوشیها و سیستمهای محلی هستند. اما این جابجایی رایگان نیست!
محققان در مقاله جدیدی به بررسی «پارادوکس کارایی-امنیت» پرداختهاند. وقتی مدلها را برای اجرا روی سختافزارهای ضعیفتر فشرده (Quantization) یا بهینه میکنیم، ناخواسته آسیبپذیریهای جدیدی ایجاد میکنیم که راه را برای حملات باز میگذارد.
این مطالعه با معرفی شاخص جدید SOES، راهکارهایی برای تعادل بین قدرت عملیاتی و حفظ حریم خصوصی در سیستمهای محلی ارائه میدهد. یک گام ضروری برای آیندهای که هوش مصنوعیِ شخصی، در جیب همه ماست! 📱🤖
منبع: arXiv Machine Learning