آیا میدانستید اجرای مدلهای زبانی کوچک (SLM) روی دستگاههای موبایل یا تعبیهشده چقدر انرژیبر است؟ محققان بهتازگی راهکار هوشمندانهای برای بهینهسازی «فرکانس و ولتاژ» (DVFS) در پردازندههای گرافیکی پیدا کردهاند که اجرای عملیات «Fine-Tuning» را بسیار کمهزینهتر میکند.
با این روش، مدلهای هوش مصنوعی میتوانند بدون نیاز به توان پردازشی عظیم و با صرفهجویی ۱۳ تا ۲۶ درصدی در مصرف انرژی، روی سختافزارهای محدود (مثل Jetson AGX Orin) شخصیسازی شوند. این یعنی آیندهای که در آن هوش مصنوعی شخصیسازیشده، نه فقط روی سرورهای ابری، بلکه به شکلی بهینه در دستگاههای همراه ما زندگی میکند! 🚀
منبع: arXiv Machine Learning