شرکت کوالکام با خرید استارتاپ «Nexa AI» و متنباز کردن ابزار جدید خود برای پردازندههای Hexagon NPU، گام بزرگی در بهینهسازی اجرای مدلهای هوش مصنوعی (GenAI) روی دستگاهها برداشته است.
این حرکت یعنی پردازشهای سنگین هوش مصنوعی قرار است سریعتر و بهینهتر از همیشه مستقیماً روی سختافزارهای موبایل و سیستمهای لبه (Edge) اجرا شوند. توسعهدهندگان حالا میتوانند از این کتابخانهها برای بهرهوری حداکثری از توان پردازشی کوالکام استفاده کنند.
منتظر تحولات جذاب در اجرای مدلهای محلی روی گوشیهای هوشمند باشید!
منبع: Hacker News AI
