اجرای مدلهای زبانی بزرگ (LLM) روی گوشیهای هوشمند علاوه بر سرعت، نگرانیهای امنیتی زیادی به همراه دارد. محققان با معرفی سیستم جدید «FlexServe»، راهکار خلاقانهای برای اجرای امن و سریع LLMها روی موبایل ارائه دادهاند.
این سیستم با استفاده از قابلیت ARM TrustZone و جدا کردن مدیریت منابع از دسترسی، اجازه میدهد هوش مصنوعی در محیطی کاملاً امن و ایزوله اجرا شود، بدون اینکه کارایی گوشی کاهش یابد. این یعنی حفظ حریم خصوصی کاربران در عین بهرهمندی از قدرت هوش مصنوعی محلی! 🛡️✨
منبع: arXiv Machine Learning
