مدلهای Diffusion Transformer (DiT) که موتور اصلی تولید تصاویر و ویدیوهای هوش مصنوعی هستند، معمولاً با چالش سنگینی در مدیریت منابع GPU روبرو هستند. اما محققان به تازگی راهکار جدیدی به نام GF-DiT معرفی کردهاند که وضعیت را تغییر میدهد!
🔹 این سیستم چه میکند؟
در حالی که سیستمهای فعلی از تنظیمات ثابت برای GPU استفاده میکنند و باعث هدررفت منابع میشوند، GF-DiT یک «زمانبند هوشمند و منعطف» است. این سیستم میتواند حین اجرای درخواستها، میزان منابع تخصیص یافته را به صورت لحظهای تغییر دهد.
📈 نتایج خیرهکننده:
این تکنولوژی توانسته خروجی (Throughput) را تا ۶ برابر افزایش و میانگین زمان تأخیر (Latency) را تا ۹۵٪ کاهش دهد. این یعنی تولید محتوای هوش مصنوعی، سریعتر و ارزانتر از همیشه!
این پیشرفت میتواند مسیر را برای عرضه عمومیتر و باکیفیتترِ مدلهای پیشرفته تولید ویدیو و تصویر هموارتر کند. 🎨✨
منبع: arXiv Machine Learning
