تا به حال به امنیت مدلهای زبانی (LLM) روی گوشی خود فکر کردهاید؟ محققان سیستم جدیدی به نام «FlexServe» را معرفی کردهاند که اجرای مدلهای هوش مصنوعی را روی موبایل متحول میکند.
این سیستم با استفاده از فناوری «TrustZone» و مکانیسمهای نوآورانه در مدیریت حافظه و پردازنده (NPU)، سرعت اجرای مدلها را تا ۱۰ برابر افزایش داده و همزمان از دادههای حساس شما در برابر نفوذهای احتمالی محافظت میکند. این یعنی میتوانید بدون نگرانی از امنیت، از قدرت مدلهای هوش مصنوعی پیشرفته مستقیماً روی دستگاه خود لذت ببرید. 📱✨
منبع: arXiv Machine Learning
