مدلهای زبانی بزرگ (LLM) به دلیل داشتن ابعاد بالا، هزینههای ذخیرهسازی و جستجوی زیادی دارند. حالا محققان روش جدیدی به نام DIVE ارائه کردهاند که با استفاده از «فشردهسازی باقیمانده» و تکنیکهای خاص در یادگیری، بدون افت کیفیت، ابعاد مدل را به شدت کاهش میدهد.
این روش که در تستهای مختلف موفقتر از متدهایی مثل PCA عمل کرده، به توسعهدهندگان کمک میکند تا با همان دقتِ مدلهای سنگین، خروجیهای بهینهتری (۱۲۸ یا ۲۵۶ بعدی) داشته باشند و عملاً هزینههای زیرساختی را برای اجرای مدلهای پیشرفته پایین بیاورند. یک گام دیگر به سوی مدلهای کوچکتر و سریعتر! ⚡️
منبع: arXiv AI