محققان در مقاله جدیدی، سختافزار نوآورانهای به نام BRIM معرفی کردهاند که به طور خاص برای بهینهسازی «استنتاج» (Inference) در مدلهای بزرگ طراحی شده است.
💡 چرا این خبر مهم است؟
مدلهای فعلی در استفاده از «اسپارسیتی» (Sparsity) یا همان دادههای پراکنده، معمولاً با چالش عدم تعادل در پردازش مواجه میشوند که باعث هدررفت منابع میشود. BRIM با ترکیب دو تکنیک هوشمندانه (CBP و Pairwise Slot Donation)، توانسته بهرهوری واحد پردازشی (PE) را به بالای ۹۰ درصد برساند.
خروجی این کار برای ما چیست؟
✅ افزایش تا ۲.۳ برابری سرعت در پردازش مدلهای سنگین مثل LLMها و ViTها
✅ بهبود چشمگیر بهرهوری انرژی (تا ۱.۶ برابر)
این یعنی در آینده، هوش مصنوعی سریعتر و با مصرف انرژی کمتری روی سختافزارها اجرا خواهد شد.
منبع: arXiv AI