محققان در یک پژوهش جدید، به بررسی مشکلی در «گرادیان نزولی» (Gradient Descent) پرداختهاند که باعث میشود مدلها در هنگام یادگیری دچار گمگشتگی (Misalignment) شوند.
آنها با معرفی «گرادیان نزولی طیفی» (SpecGD)، نشان دادند که چطور میتوان این خطاهای ناشی از دادههای نامتقارن را حذف کرد. این روش باعث میشود مدلهای هوش مصنوعی با ثبات بسیار بیشتری آموزش ببینند و سریعتر به هدف نهایی برسند. این دستاورد میتواند به بهبود چشمگیر عملکرد شبکههای عصبی عمیق در وظایف پیچیده منجر شود. 🧠⚙️
منبع: arXiv Machine Learning