آیا تا به حال فکر کردهاید که چرا برخی مدلهای هوش مصنوعی یادگیری بهتری دارند؟ محققان در یک مقاله جدید، تفاوت کلیدی بین «یادگیری تکلایه» و «یادگیری سلسلهمراتبی» را در شبکههای عصبی عمیق با عرض زیاد بررسی کردهاند.
این مطالعه نشان میدهد که آموزش وزنهای ورودی به لایههای پنهان، خطای کلی یادگیری را بهطور قابلتوجهی کاهش میدهد. برخلاف تصور رایج، تغییر پارامترها و بهینهسازی هسته (Kernel) باعث میشود مدلها در فضای پارامتریک عملکردی پایدارتر داشته باشند و دچار تکینگی (Singularity) نشوند. این یافتهها به درک عمیقتر ما از ساختار ریاضی مدلهای قدرتمند امروزی کمک میکند.
منبع: arXiv Machine Learning