محققان به تازگی در یک پژوهش تئوریک در آرکایو، به بررسی محدودیتهای هندسی شبکههای عصبی ReLU از منظر «سیمپلکسها» (Simplices) پرداختهاند.
این مطالعه نشان میدهد که شبکههای عصبی با عمق کم، در تقریب زدن ساختارهای هندسی پیچیده (پلیتوپها) با محدودیتهای جدی مواجه هستند. به بیان ساده، نتایج این مقاله مرزهای توانایی این شبکهها را در درک اشکال هندسی تعیین میکند که میتواند در آینده به درک عمیقتر از «قدرت بیانگری» (Expressivity) مدلهای هوش مصنوعی کمک کند.
این یافتهها اگرچه ماهیت ریاضیاتی دارند، اما برای درک بهتر نحوه یادگیری و نمایش دادههای پیچیده در مدلهای مدرن بسیار کلیدی هستند.
منبع: arXiv Machine Learning