دنیای هوش مصنوعی به دنبال راهی برای استفاده از پردازشهای FP8 در مدلهای بزرگ توصیهگر (LRM) است که معمولاً به دلیل حساسیت بالا، کار با آنها چالشبرانگیز بود.
محققان فریمورک جدیدی به نام «LoKA» را معرفی کردهاند که با ترکیب سختافزار و نرمافزار، اجازه میدهد دقت مدلهای توصیهگر را بدون افت کیفیت، با استفاده از محاسبات کمدقت (Low-precision) افزایش دهید. این یعنی آموزش سریعتر و بهینهتر مدلهایی که در سیستمهای توصیهگر بزرگ استفاده میشوند! 💡
این نوآوری گام مهمی برای مقیاسپذیری بیشتر در دنیای AI است.
گر سازی
منبع: arXiv Machine Learning