محققان تکنیک جدیدی به نام «X-Stage» معرفی کردهاند که میتواند سرعت اجرای مدلهای پیشرفتهای مثل Diffusion Transformer (DiT) را به طرز چشمگیری افزایش دهد.
ماجرا چیست؟
در سیستمهای توزیعشده با چندین GPU، انتقال دادهها بین کارتهای گرافیک معمولاً باعث کندی محاسبات میشود. این متد جدید با شناسایی دقیق «مراحل انتقال داده» در سختافزار، اجازه میدهد محاسبات دقیقاً در زمانهای خالی بین انتقال دادهها انجام شود.
نتیجه این بهینهسازی، افزایش ۱.۶ برابری سرعت در برخی عملیاتهای سنگین هوش مصنوعی است که نویدبخشِ اجرای سریعتر و ارزانتر مدلهای بزرگ در آینده است. ⚡️
منبع: arXiv AI