محققان در یک پژوهش جدید، پدیدهای به نام «شکاف دانستن-استفاده» (Knowing-Using Gap) را در مدلهای زبانی بزرگ کشف کردهاند. مشکل اینجاست که وقتی مدلها اطلاعات جدیدی را در طول فرآیند Fine-tuning یاد میگیرند، آنها را حفظ میکنند، اما در زمان استدلال و مسائل پیچیده نمیتوانند از این دانش استفاده کنند.
تیم محققان با استفاده از تکنیک جدید «Self-patching» متوجه شدند که این دانش در واقع در لایههای مدل وجود دارد، اما بهدرستی به بخشهای محاسباتی هدایت نمیشود! آنها با یک استراتژی هوشمندانه توانستند تا ۷۵ درصد این مشکل را حل کنند که گامی بزرگ برای هوشمندتر کردن مدلهای آینده است. 🧠🤖
منبع: arXiv NLP
