آیا مدلهای هوش مصنوعی میتوانند با حفظ دقت، سریعتر و بهینهتر اجرا شوند؟ محققان در مقاله جدیدی روشی به نام «CARVE» (Content-Aware Recurrent with Value Efficiency) را معرفی کردند که یک چالش فنی بزرگ در مدلهای بازگشتی (Recurrent) را حل میکند.
تکنیکهای فعلی اغلب هنگام پردازش دادهها در حافظه، دچار کندی میشوند یا نمیتوانند به درستی «محتوا» را با «حافظه» ترکیب کنند. معماری جدید CARVE با اصلاح نحوه gating در لایههای مدل، باعث شده تا پردازش موازی بسیار کارآمدتر شود و سرعت آموزش مدلها بدون افت کیفیت، افزایش یابد.
این نوآوری گام مهمی برای افزایش بهرهوری محاسباتی در مدلهای بزرگ است! ⚡️
منبع: arXiv AI