محققان در مقاله جدید خود به سراغ حل یکی از چالشهای بزرگ در آموزش شبکههای عصبی بازگشتی (RNN) رفتهاند: مشکل «محو شدگی یا انفجار گرادیان» هنگام استفاده از Backpropagation.
این روش نوآورانه که با الهام از نظریه عملگر کوپمن و شبکههای ویژگی تصادفی طراحی شده، امکان ساخت وزنها و بایاسهای شبکه را بدون نیاز به گرادیان فراهم میکند. نتیجه؟ کاهش چشمگیر زمان آموزش و افزایش سرعت در مدلسازی سیستمهای آشوبناک و تحلیل سریهای زمانی با همان دقت قبلی. ✨
اگر در حوزه یادگیری عمیق و مدلسازی سیستمهای دینامیکی فعالیت میکنید، این رویکرد جدید میتواند مسیر آموزش مدلهای شما را بسیار بهینهتر کند.
منبع: arXiv Machine Learning