اگر در دنیای هوش مصنوعی فعالیت میکنید، حتماً میدانید که اجرای مدلهای سنگین روی دستگاههای محلی (On-device) چقدر چالشبرانگیز است. حالا با معرفی Cosmos 3 Edge، شاهد جهشی بزرگ در بهرهوری و سرعت مدلهای زبانی در محیطهای پردازش لبه هستیم.
این مدل با تمرکز بر بهینهسازی حداکثری، قرار است نیاز به سرورهای ابری برای بسیاری از وظایف هوش مصنوعی را کاهش دهد. این یعنی حریم خصوصی بیشتر و پاسخدهی آنی برای اپلیکیشنهای نسل آینده!
منبع: Hugging Face Blog