محققان در مقالهای جدید، درک عمیقتری از نحوه یادگیری مدلهای زبانی در فرآیند «زنجیره تفکر» (Chain-of-Thought) ارائه دادهاند. این پژوهش به بررسی پیچیدگی نمونههای آموزشی در مدلهای خودبازگشتی (Autoregressive) میپردازد و ثابت میکند که میتوان با نرخهای بهینهای، این مدلها را در محیطهای واقعی آموزش داد.
نکته جالب اینجاست که دانشمندان با معرفی مفهومی به نام «بعد برابری» (Parity Dimension)، چالشهای مربوط به افزایش بعد در طول بازگشت (Rollout) را حل کردهاند. این یعنی راه برای ساخت مدلهای هوشمندتر و کارآمدتر که فرآیند تفکر منطقی را بهتر یاد میگیرند، هموارتر شده است. 🚀
منبع: arXiv Machine Learning