اگر در حوزه آموزش مدلهای هوش مصنوعی (Fine-tuning) فعالیت میکنید، خبر خوبی برایتان داریم! محققان روش جدیدی به نام PLoRA را معرفی کردهاند که دنیای آموزش LoRA را متحول میکند.
در حال حاضر، آموزش همزمان مدلهای LoRA به دلیل محدودیتهای سختافزاری و بهرهوری پایین، چالش بزرگی است. اما PLoRA با مدیریت خودکارِ کارهای آموزشی و بهینهسازی هستههای پردازشی (Kernels)، توانسته است:
✅ سرعت آموزش را تا ۱۲.۸ برابر افزایش دهد.
✅ زمانِ کلی فرآیند آموزش را تا ۷.۵ برابر کاهش دهد.
این یعنی صرفهجویی چشمگیر در زمان و هزینههای محاسباتی برای توسعهدهندگان LLM. قدمی بزرگ برای دسترسی سریعتر به مدلهای شخصیسازیشده و حرفهای!
منبع: arXiv Machine Learning