🧠 معمای یادگیری در شبکه‌های عصبی؛ آیا پهنای شبکه اهمیت دارد؟

محققان در یک پژوهش تئوریک جدید، به سراغ شبکه‌های عصبی بیزی (Bayesian Neural Networks) رفته‌اند تا پاسخی برای یک سوال قدیمی پیدا کنند: آیا شبکه‌های عصبی با پهنای بی‌نهایت (Infinite-Width)، واقعاً همان رفتار شبکه‌های محدود را دارند؟

این مقاله با معرفی مفهوم «Reduced Entropy»، اثبات می‌کند که یادگیری در مدل‌های بیزی با پهنای بی‌نهایت، در شرایطی مشابه شبکه‌های با پهنای محدود عمل می‌کند. به زبان ساده، این دستاورد به ما نشان می‌دهد که چگونه می‌توان با انتخاب تعداد محدودی از نورون‌ها، همان دقت و کارایی را در مدل‌های پیچیده حفظ کرد. این یافته‌ها گام مهمی در درک بهتر «سوگیری استقرایی» و بهینه‌سازی مدل‌های بزرگ هوش مصنوعی محسوب می‌شود.

منبع: arXiv Machine Learning