یکی از چالشهای اصلی در مدلهای زبانی بزرگ (LLMs)، کاهش دقت و کارایی آنها هنگام ذخیرهسازی اطلاعات در حافظه بلندمدت است. حالا محققان فریمورک جدید و جذابی به نام MemDefrag را معرفی کردهاند که بدون نیاز به آموزش مجدد (Training-free)، حافظه مدل را «دیفرگمنت» یا بهینهسازی میکند!
این ابزار با استفاده از یک مکانیزم هوشمند، اطلاعات غیرضروری را حذف و حافظه را مرتبسازی میکند تا مدل بتواند دانش خود را بسیار دقیقتر و طولانیمدتتر حفظ کند. نتایج نشان میدهد که عملکرد بازیابی دانش توسط این متد، جهش قابل توجهی نسبت به روشهای قبلی داشته است.
اگر به جزئیات فنی و کدهای این پژوهش علاقهمندید، میتوانید آن را در گیتهاب بررسی کنید.
منبع: arXiv NLP