محققان در مطالعه اخیر خود بر روی «یادگیری مداوم» (Continual Learning)، به نتایج جالبی رسیدهاند که نشان میدهد تلاش برای جداسازی بیش از حد دادهها در فضای ویژگیها (Feature-space)، همیشه به بهبود عملکرد منجر نمیشود.
این تیم با بررسی روشهای «دفع بینخوشهای» (Inter-cluster repulsion)، متوجه شدند که فعال بودن همیشگی این مکانیزم، نه تنها به یادگیری بهتر کمک نمیکند، بلکه میتواند باعث «فراموشی فاجعهبار» (Catastrophic Forgetting) شود. در واقع، این تحقیق نشان میدهد که گاهی اوقات سادگی، بهتر از پیچیدگیهای ریاضیِ مداوم عمل میکند و باید به دنبال مکانیزمهای هوشمندانهتری بود که به محض رسیدن به تفکیک مناسب، متوقف شوند.
این دستاورد یک زنگ هشدار برای پژوهشگران حوزه یادگیری ماشین است تا در طراحی اهداف آموزشی مدلها، دقت بیشتری داشته باشند. 📉🤖
منبع: arXiv Machine Learning