اگر در دنیای هوش مصنوعی فعالیت میکنید، حتماً میدانید که سرعت استنتاج (Inference) مدلهای زبانی بزرگ یکی از بزرگترین چالشهاست. حالا محققان روشی به نام DeLS-Spec معرفی کردهاند که انقلابی در «کدنویسی حدسی» (Speculative Drafting) ایجاد میکند.
💡 چه چیزی این روش را خاص میکند؟
در متدهای قبلی برای افزایش سرعت، نیاز بود مدلهای سنگین از نو آموزش داده شوند که هزینه بسیار بالایی داشت. اما DeLS-Spec با ترکیب یک مدل اصلی (به عنوان متخصص متنهای طولانی) و یک «هدِ محلی» سبک (به عنوان متخصص متنهای کوتاه)، بدون نیاز به آموزش سنگین، سرعت تولید پاسخها را به شکل چشمگیری افزایش میدهد.
نتایج روی مدلهای Qwen3 نشان داده که این روش هم سرعت را بالا میبرد و هم دقت در حوزههای ریاضی، کدنویسی و دیالوگ را بهبود میبخشد. این یعنی مدلهای آینده ما هم سریعتر هستند و هم هوشمندتر! 🧠✨
نویسی
منبع: arXiv NLP
