محققان در یک پژوهش جدید نشان دادهاند که چگونه میتوان با استفاده از یادگیری تقویتی (RL)، مدیریت درخواستها در سرورهای ابری را متحول کرد. در این مطالعه، مدلهای RL به جای روشهای سنتی، توانستهاند با شناسایی هوشمندانه بار کاری (Workload Segregation)، گلوگاههای سیستم را حذف کنند.
نتایج این تحقیق خیرهکننده است: در محیطهای چند GPU، این رویکرد جدید توانسته نسبت به روشهای معمول تا ۳.۵ برابر کارایی بیشتری ارائه دهد، تأخیر را ۲۵ درصد کاهش و توان عملیاتی (Throughput) را ۶۰ درصد افزایش دهد! این یعنی گامی بزرگ به سمت سرورهای سریعتر و بهینهتر برای مدلهای سنگین هوش مصنوعی. 💻⚙️
منبع: arXiv AI