تا حالا به این فکر کردید که چطور میتوان هزینه سنگین آموزش مدلهای بینایی-زبانی (VLM) را کاهش داد بدون اینکه کیفیت پاسخدهی آنها پایین بیاید؟ 🤔
محققان در یک پژوهش جدید، متد «DynamiCS» را معرفی کردهاند که با استفاده از خوشهبندی پویا، دادههای آموزشی را هوشمندانه انتخاب میکند. این روش برخلاف رویکردهای قبلی، نه تنها هزینههای محاسباتی را کم میکند، بلکه حواسش به مفاهیم کمیاب (Long-Tail) هم هست تا مدل در یادگیری موضوعات تخصصیتر و نادر، دقیقتر عمل کند.
اگر در حوزه آموزش مدلهای بزرگ فعالیت میکنید، این رویکرد میتواند بازی را به نفع شما تغییر دهد! 💡
اطلاعات بیشتر و دسترسی به کد:
https://github.com/MingliangLiang3/DynamiCS
های_زبانی
منبع: arXiv Computer Vision