محققان روشی نوآورانه به نام «SHUFFLESPARSE» معرفی کردهاند که شکاف عملکردی بین مدلهای هوشمند «ساختاریافته» و «ساختارنیافته» را از بین میبرد.
🔹 ماجرا چیست؟
در حالی که مدلهای هوش مصنوعی برای افزایش سرعت به ساختارهای خاص (Sparse) نیاز دارند، این کار معمولاً باعث افت دقت میشود. SHUFFLESPARSE با یادگیری یک «ماتریس جایگشت» (Permutation Matrix)، اجازه میدهد مدل بدون از دست دادن دقت بالا، همچنان سریع و بهینه باقی بماند.
🔹 چرا مهم است؟
این تکنیک نه تنها باعث بهبود عملکرد مدلهایی مثل GPT-2 و LLaMA-2 در حالت فشرده (Pruning) میشود، بلکه با کمترین هزینه محاسباتی، دقت مدلهای بزرگ را در فرآیندهای استنتاج (Inference) به طرز چشمگیری افزایش میدهد.
این یعنی در آیندهای نزدیک، مدلهای هوش مصنوعیِ سریعتر، دقیقتر و سبکتر خواهیم داشت! 🧠✨
منبع: arXiv Machine Learning