مدلهای زبانی بزرگ (LLM) به ستون اصلی سیستمهای پیشنهاددهنده تبدیل شدهاند، اما استفاده از روشهای استدلال زنجیرهای (CoT) معمولاً باعث کندی در پاسخدهی میشود. محققان به تازگی مدل جدید «WhisperRec» را معرفی کردهاند که این مشکل را حل میکند.
ویژگیهای کلیدی این مدل:
🔹 استدلال در فضای نهان: به جای تولید متنهای طولانی و کُند برای استدلال، از توکنهای نهان استفاده میکند.
🔹 افزایش سرعت: با حذف گلوگاههای تولید متن، سرعت پاسخدهی به طور چشمگیری افزایش مییابد.
🔹 استدلال تطبیقی (MV-ACoT): سیستم میتواند بین موارد ساده و پیچیده تمایز قائل شود و برای هر کاربر، سطح پردازش مناسب را اعمال کند.
این نوآوری گام مهمی در جهت شخصیسازی هوشمند و فوری در پلتفرمهای دیجیتال است.
منبع: arXiv AI