محققان در پژوهشی تازه، روشی به نام «Curriculum-Guided Layer Scaling» (یا به اختصار CGLS) معرفی کردهاند که به جای آموزش یکباره مدلهای حجیم، از رویکردی شبیه به یادگیری انسان الهام گرفته است.
در این روش، مدل در طول دوره آموزشی بهتدریج لایههای بیشتری دریافت میکند و همزمان با پیچیدهتر شدن ساختار خود، با دادههای چالشبرانگیزتری مواجه میشود. این «رشد مرحلهبهمرحله» باعث شده تا مدل در نهایت عملکرد بسیار بهتری در استدلال و پاسخ به سوالات پیچیده نشان دهد. با این تکنیک، نه تنها هزینههای آموزش بهینه میشود، بلکه قدرت تعمیم مدل نیز به شکل چشمگیری افزایش مییابد. 🧠✨
منبع: arXiv NLP