محققان در مقالهای جدید به سراغ حل یکی از چالشهای اصلی ترنسفورمرها رفتهاند؛ چطور عمق مدل را بدون افزایش تعداد پارامترها و حافظه مصرفی بیشتر کنیم؟
این روش جدید که DeepLoop نام دارد، با استفاده از «بلاکهای چرخشی» (Looped Transformers)، به مدل اجازه میدهد به جای بزرگتر شدن، از لایههای فعلی در چندین مرحله استفاده کند. نتیجه این کار، پایداری بیشتر مدلهای GPT در عمقهای بالا و بهبود چشمگیر دقت است. این یعنی میتوانیم مدلهای هوشمندتر را با سختافزار بهینهتر اجرا کنیم! 🧠✨
منبع: arXiv AI