محققان در مقاله جدیدی، مدل «LenVM» را معرفی کردهاند که انقلابی در مدیریت طول تولید متن توسط مدلهای زبانی (LLMs) ایجاد میکند. برخلاف روشهای سنتی که طول متن را بهصورت کلی بررسی میکنند، این مدل جدید با تخمین طول در سطح «تکتک توکنها»، اجازه میدهد مدلها با دقت بسیار بالاتری طول خروجی خود را کنترل کنند.
چرا این خبر مهم است؟
✅ افزایش چشمگیر دقت در رعایت محدودیتهای طولی (مثلاً در تست GSM8K).
✅ بهینهسازی هزینههای استنتاج و افزایش کیفیت پاسخها.
✅ بدون نیاز به آموزشهای پیچیده و پرهزینه.
این پیشرفت میتواند به مدلهای آینده کمک کند تا در سناریوهایی که نیاز به پاسخهای کوتاه یا بلندِ دقیق دارند، عملکرد بسیار هوشمندتری داشته باشند.
منبع: arXiv NLP