محققان در مطالعهای جدید به بررسی این موضوع پرداختهاند که چگونه ترتیب آموزش مدلها (Curriculum Learning) میتواند بر نحوه یادگیری و ایمنی آنها تأثیر بگذارد. نتایج این تحقیق نشان میدهد که آموزش نامتوازن (Imbalanced Training) میتواند باعث شود که مدل، مفاهیم را در مدارهای عصبی جداگانه و مجزا دستهبندی کند.
این یافته یک گام بزرگ برای توسعهدهندگان است؛ چرا که جداسازی مسیرهای عصبی به مدل کمک میکند تا هنگام «فاینتونینگ» برای حذف رفتارهای خطرناک یا نامطلوب، با دقت و ثبات بسیار بیشتری عمل کند و از تداخل دانش جلوگیری شود.
منبع: arXiv AI