محققان در پژوهشی جدید، راهکار هوشمندانهای برای بهبود عملکرد مدلهای زبانی بزرگ (LLM) پیدا کردهاند. این روش که «Bank of Values» یا به اختصار BoV نام دارد، با تغییر در نحوه پردازش بردارهای مقدار (Value Vectors) در لایههای عمیق مدل، نیاز به محاسبات تکراری را کاهش میدهد.
نکته کلیدی اینجاست: به جای اینکه لایههای عمیق همیشه وابسته به زمینه (Context) در جریان باقیمانده (Residual Stream) باشند، میتوان از «بردارهای مقدار مستقل از زمینه» استفاده کرد. این کار نه تنها دقت و عملکرد مدل را در بنچمارکها بهبود میبخشد، بلکه باعث کاهش مصرف حافظه و توان محاسباتی میشود.
این دستاورد یک قدم مهم برای کارآمدتر کردن مدلهای زبانی در آینده است.
منبع: arXiv NLP