اگر از کاربران پردازندههای AMD هستید، خبر خوبی برایتان داریم! محققان با معرفی پروژه «STEEL»، موفق شدند اجرای مدلهای زبانی بزرگ (LLM) روی لپتاپها را بهینهتر از همیشه کنند.
این فناوری جدید که برای NPUهای سری XDNA طراحی شده، با استفاده از مکانیزم FlashAttention، بهرهوری انرژی را تا ۹ برابر نسبت به CPU بهبود بخشیده و سرعت پردازش را به شدت افزایش داده است. این یعنی در آینده نزدیک، بدون نیاز به فضای ابری و با حفظ حریم خصوصی، میتوانید مدلهای قدرتمند هوش مصنوعی را مستقیماً روی لپتاپ خود با مصرف انرژی بسیار پایین اجرا کنید. 💻⚡️
منبع: arXiv AI