آیا تا به حال فکر کردهاید چرا مدلهای زبانی گاهی با وجود دانستن واقعیتهای جدید، هنوز پاسخهای قدیمی را ترجیح میدهند؟ محققان در مطالعهای جدید، پدیدهای به نام Parametric Temporal Conflict (PTC) را شناسایی کردهاند که در آن، اطلاعات بهروز در مدل موجود است، اما مدل به دلیل یک «ترجیح داخلی»، همچنان از دانش قدیمی استفاده میکند.
این تحقیق نشان میدهد که مشکل مدلها «کمبود دانش» نیست، بلکه نحوه فراخوانی و اولویتبندی آن است. با تکنیکهای جدیدی مثل «Activation Patching»، محققان توانستهاند این اولویتهای اشتباه را در مدلها اصلاح کنند. گامی مهم برای درک بهتر حافظه مدلهای زبانی! 🚀
منبع: arXiv Machine Learning