محققان به تازگی چارچوب نوآورانهای به نام Token Factory معرفی کردهاند که مشکل بزرگ مدلهای توصیهگر بزرگ (LRMs) را حل میکند. این مدل بهجای استفاده از متون طولانی و سنگین، دادهها را به «توکنهای نرم» (Soft Tokens) فشرده تبدیل میکند تا ضمن افزایش دقت، سرعت پردازش را بهشدت بالا ببرد و مصرف حافظه را بهینه کند. این یک گام بزرگ برای سیستمهای توصیهگر در مقیاس صنعتی است!
گر
منبع: arXiv AI