محققان در تازهترین دستاورد خود، فریمورک «Polestar» را معرفی کردهاند که چالش بزرگی در مدلهای زبانی انتشار (Diffusion LLMs) را هدف قرار داده است.
این مدل با استفاده از مفهومی به نام «انحراف نمایش توکن» (Token Representation Drift)، دو مشکل اساسی در این مدلها را حل میکند:
۱. بهینهسازی حافظه کش (KV-Cache) برای جلوگیری از دوبارهکاری.
۲. افزایش موازیسازی در تولید متن بدون افت کیفیت.
نتیجه این نوآوری، دستیابی به ۳.۷ برابر سرعت بیشتر و بهبود ۱۰ درصدی دقت در بنچمارکهای کدنویسی و ریاضی است؛ گامی بزرگ برای کاربردیتر کردن مدلهای هوش مصنوعی فوقسریع! 💡✨
منبع: arXiv NLP