محققان در مقالهای جدید به سراغ مفهوم جذاب «Portability» یا قابلیت انتقال در مدلهای زبانی رفتهاند. آنها نشان دادهاند که با استفاده از روش PortLLM، میتوان مدلها را بدون نیاز به آموزشهای سنگین و دادههای جدید، پس از هر مرحله پیشآموزش بهروز نگه داشت. 🧠
نکته کلیدی این پژوهش، کشف یک پدیده هندسی در فضاهای با ابعاد بالاست: «نزدیک-عمود بودن» (Near-Orthogonality) بردارها. این ویژگی باعث میشود که تغییرات کوچک در مدل، عملکرد اصلی آن را تخریب نکند و مدل در طول زمان همچنان کارآمد باقی بماند.
این یعنی مسیر برای داشتن ایجنتهای هوشمند با هزینهی محاسباتی بسیار کمتر هموارتر شده است! 💡
منبع: arXiv Machine Learning
