محققان در دستاورد جدیدی روشی به نام «PuzzleMoE» را معرفی کردهاند که انقلابی در بهینهسازی مدلهای بزرگ (MoE) محسوب میشود. بزرگترین چالش این مدلها، حجم حافظه بسیار زیاد آنهاست، اما PuzzleMoE بدون افت دقت، تا ۵۰ درصد از حجم مدل را کاهش میدهد.
ویژگیهای کلیدی این نوآوری:
✅ ادغام هوشمند متخصصها (Experts): شناسایی و ترکیب وزنهای تکراری برای کاهش حجم.
✅ کدگذاری بیتی (Bit-packed): حذف سربارهای اضافی در حافظه.
✅ سرعت بالاتر: افزایش ۱.۲۸ برابری سرعت در استنتاج (Inference) مدل.
این یعنی در آینده نزدیک، اجرای مدلهای عظیم هوش مصنوعی روی سختافزارهای محدودتر بسیار آسانتر خواهد شد! ⚡️
منبع: arXiv AI