یکی از چالشهای بزرگ در اجرای مدلهای هوش مصنوعی روی سختافزارهای کممصرف، خطاهای محاسباتی در حالت «Fixed-Point» است که گاهی باعث خرابی کلی خروجی مدل میشود.
محققان در این پژوهش جدید، فریمورکی به نام Lyapunov-stabilised ارائه کردهاند که با نظارت بر وضعیت حافظه مدل، از بروز خطاهای سرریز (Overflow) جلوگیری میکند. این روش باعث میشود مدلها در شرایط سختافزاری، بسیار پایدارتر عمل کنند و دقت خود را حتی با تعداد بیتهای کم (4 تا 16 بیت) حفظ کنند.
این پیشرفت گام مهمی برای اجرای بهینه هوش مصنوعی روی گوشیها و گجتهای هوشمند بدون افت عملکرد است! 📱✨
منبع: arXiv AI