اگر در حوزه فشردهسازی و کوانتایز کردن مدلهای هوش مصنوعی (PTQ) فعالیت میکنید، مقاله جدیدی منتشر شده که میتواند کارتان را بسیار سادهتر کند.
تکنیک جدیدی به نام «ETBQ» معرفی شده که قبل از شروع فرآیند کوانتایز کردن مدل، یک مرحله تنظیم پیشفرض (Pre-conditioning) انجام میدهد. نتیجه؟ دقت بسیار بالاتر در مدلهای ۲ یا ۴ بیتی که معمولاً در این فرآیند دچار افت کیفیت میشوند.
نکته جذاب اینجاست که ETBQ برخلاف روشهای دیگر، نیازی به آموزشهای سنگین ندارد و خروجی آن یک مدل دقیق است که با هر بکاندی به راحتی کار میکند. نتایج تستها روی مدلهای مختلف از جمله ImageNet هم بهبود چشمگیری را نشان میدهد. 📉✅
سازی
منبع: arXiv Computer Vision