مدلهای بزرگ بینایی-زبانی (VLM) به دلیل تعداد زیاد توکنهای تصویری، هزینهی پردازشی بسیار بالایی دارند. حالا یک روش جدید به نام «AnchorPrune» معرفی شده که بدون نیاز به آموزش مجدد (Training-free) و بدون تغییر در ساختار مدل، این مشکل را حل میکند!
🔹 چرا این روش مهم است؟
این تکنیک با ترکیب هوشمندانهی «اهمیتِ پرسش» و «تازگیِ بصری»، توکنهای بیفایده را حذف و توکنهای حیاتی را حفظ میکند. نتیجه؟ افزایش چشمگیر سرعت و کارایی مدلهایی مثل LLaVA-NeXT بدون افت دقت.
این یک قدم بزرگ برای اجرای روانتر هوش مصنوعی روی دستگاههای معمولی است! 💡
منبع: arXiv AI