تا به حال فکر کردهاید که آیا میتوانیم قوانین آموزش (Optimizer) مدلهای هوش مصنوعی را به جای طراحی دستی، «کشف» کنیم؟ محققان در مطالعه اخیر خود از روش «رگرسیون نمادین» استفاده کردهاند تا قوانین بهروزرسانی وزنها را به شکلی خودکار پیدا کنند.
نتایج این پژوهش خیرهکننده است! این روش جدید در ۲۵ مورد از ۳۰ بنچمارک، توانست عملکردی بهتر از بهینهسازهای دستی و بهینهسازیشده نشان دهد و خطای مدل را تا حدود ۴۴٪ کاهش دهد. این یعنی قدمی بزرگ به سمت بهینهسازهای خودکار و کارآمدتر که میتوانند دنیای آموزش شبکههای عصبی را متحول کنند.
منبع: arXiv Machine Learning