محققان در مقاله جدیدی از رویکردی نوآورانه به نام «Sparse by Command» رونمایی کردند که هدفش حذف محاسبات غیرضروری در مدلهای چندوظیفهای (Multi-task) است.
💡 نکته کلیدی:
در مدلهای فعلی، حتی اگر یک تسک خاص به تمام بخشهای مدل نیاز نداشته باشد، کل شبکه پردازش میشود که باعث اتلاف انرژی و زمان میشود. این روش جدید با استفاده از یک لایه «گیتینگ» سبک، بخشهای غیرضروری شبکه را قبل از پردازش شناسایی و غیرفعال میکند.
نتیجه این کار، اجرای سریعتر مدلها روی سختافزارهایی مثل FPGA بدون کاهش دقت است. این یعنی قدمی بزرگ برای اجرای مدلهای قدرتمند روی سیستمهای با منابع محدود!
منبع: arXiv AI