یکی از چالشهای بزرگ هوش مصنوعی، مصرف منابع سنگین مدلهای زبانی است. محققان بهتازگی چارچوب نوآورانهای به نام «MoP» (Mixture of Pruners) معرفی کردهاند که به جای تمرکز بر یک روش خاص، ترکیبی هوشمندانه از هرس کردن «عمق» و «عرض» مدل را به کار میگیرد.
ویژگیهای کلیدی MoP:
✅ افزایش دقت مدلهای قدرتمندی مثل LLaMA-2 و LLaMA-3.
✅ کاهش چشمگیر ۳۹ درصدی در تأخیر (Latency) پردازش با ۴۰٪ فشردهسازی.
✅ قابلیت استفاده در مدلهای بینایی-زبانی (مانند LLaVA).
این روش نشان میدهد که میتوان بدون از دست دادن کارایی، مدلهای بزرگ را سبکتر کرد و در محیطهای واقعی با سرعت بیشتری اجرا کرد. پیشرفتهای اینچنینی برای اجرای مدلهای هوش مصنوعی روی سختافزارهای ضعیفتر یک گام بزرگ محسوب میشود.
سازی
منبع: arXiv Machine Learning