یکی از چالشهای بزرگ در دنیای مدلهای زبانی چندوجهی (Multimodal LLMs)، یادگیری مداوم و تطبیق با وظایف جدید بدون نیاز به بازآموزی کامل یا مصرف بیرویه حافظه است. 🧠
محققان در مقاله جدیدی، روش خلاقانهای به نام InduceKV معرفی کردهاند. این متد به جای تغییر پارامترهای اصلی مدل، از یک حافظه فشرده (KV Memories) استفاده میکند که به راحتی به کش مدل اضافه میشود. با این تکنیک، مدل میتواند بدون اشغال فضای اضافی، در وظایفی مثل پاسخگویی به سوالات تصویری یا یادگیری دستورالعملهای جدید، عملکردی بهمراتب بهتر از روشهای سنتی (مثل PEFT یا MoE) داشته باشد. 📈
این نوآوری گام بزرگی برای داشتن مدلهای هوشمندتر و سبکتر در سیستمهای عملیاتی است.
منبع: arXiv AI
