محققان در مقاله جدیدی به بررسی چالش کوانتایز کردن (Quantization) مدلهای انتشار با راهنمایی طبقهبندیکننده (CFG) پرداختهاند. این مدلها به دلیل ساختار دوشاخه خود (مشروط و نامشروط)، در هنگام فشردهسازی دچار افت کیفیت میشوند که تیم تحقیقاتی آن را «تله انحراف شاخهها» نامیده است.
برای حل این مشکل، روش جدیدی به نام GAMP پیشنهاد شده که با کالیبراسیون مستقیم روی خروجیهای راهنماییشده و تخصیص هوشمند بیتها، از افت کیفیت مدلهای کوانتایز شده جلوگیری میکند. این دستاورد میتواند سرعت اجرای مدلهای هوش مصنوعی را روی سختافزارهای ضعیفتر بهطور چشمگیری افزایش دهد. 🚀
های_انتشار
منبع: arXiv Computer Vision