محققان در مقاله جدیدی، رویکرد هوشمندانهای را برای بهبود مدلهای مولد دادههای گسسته (Discrete Generative Modeling) معرفی کردهاند. این روش با تحلیل «زمینه» (Context) اطراف هر توکن، میزان عدم قطعیت را کاهش میدهد.
ویژگیهای کلیدی این دستاورد:
✅ کاهش ۶۳ درصدی سردرگمی (Perplexity) مدل در تولید متن.
✅ بهبود کیفیت خروجی با وجود هزینه محاسباتی ناچیز.
✅ حفظ توانایی تولید توکنها به هر ترتیبی (برخلاف مدلهای صرفاً خودکاربازگشت).
این یعنی مدلهای آینده میتوانند با درک عمیقتر از بافت کلمات، متون دقیقتر و باکیفیتتری تولید کنند. 🧠✨
منبع: arXiv Machine Learning