محققان در مقاله جدیدی از روشی به نام ExTernD رونمایی کردند که میتواند انقلابی در فشردهسازی مدلهای زبانی (LLM) ایجاد کند.
این متد که مخفف Expanded-rank Ternary Decomposition است، به جای فشردهسازیهای معمول، وزنهای مدل را به فاکتورهای سهتایی (-۱، ۰، ۱) تجزیه میکند. نکته جذاب اینجاست که این روش با «انبساط رتبه»، دقت مدل را تا حد بسیار زیادی به مدلهای اصلی (bf16) نزدیک میکند.
✅ چرا این خبر مهم است؟
این تکنیک اجازه میدهد مدلهای بزرگی مثل Qwen3.5 بدون از دست دادن دقت چشمگیر، بسیار سبکتر و سریعتر اجرا شوند. این یعنی در آینده نزدیک، مدلهای هوش مصنوعی قدرتمندتری را روی سختافزارهای ضعیفتر خواهیم دید! 💡
سازی
منبع: arXiv AI