محققان در تازهترین پژوهش خود، متد جدیدی به نام Weaver را معرفی کردهاند که به طرز چشمگیری سرعت تولید متن توسط مدلهای هوش مصنوعی را افزایش میدهد.
این روش با ساخت «درختهای پیشنهادی» (proposal trees) از محتملترین کلمات، وابستگیهای شرطی را بازسازی کرده و مشکل افت دقت در مدلهای سریعِ فعلی را حل میکند. ترکیب این رویکرد با بهینهسازی هستههای CUDA، باعث شده تا این مدل به سرعتی ۴.۳۷ برابر بیشتر از روشهای استاندارد دست یابد و رقبای فعلی را با اختلاف ۲۴ درصدی پشت سر بگذارد. این دستاورد گامی بزرگ برای تعامل سریعتر و هوشمندتر با مدلهای زبانی در دنیای واقعی است. ⚡️
سازی
منبع: arXiv Machine Learning