تا حالا به این فکر کردید که چطور میتوان سرعت تولید متن در مدلهای زبانی را چند برابر کرد؟ محققان بهتازگی راهکار جدیدی به نام «FlowBlock» را معرفی کردهاند که بدون نیاز به آموزش مجدد، میتواند سرعت رمزگشایی (Decoding) در مدلهای زبانیِ انتشاری (dLLMs) را تا ۴ برابر افزایش دهد! ⚡️
این متد با استفاده از تکنیک «رمزگشایی موجی» (Wavefront Decoding)، محدودیتهای پردازش سریالی را از بین میبرد و به مدل اجازه میدهد بهصورت موازی و هوشمندانه متنها را تولید و اصلاح کند. نتیجه؟ کاهش چشمگیر تاخیر (Latency) و افزایش بهرهوریِ مدلهای هوش مصنوعی. 🔥
این دستاورد یک گام بزرگ برای کاربردیتر و سریعتر شدن چتباتهای پیشرفته است.
نویسی
منبع: arXiv AI