اگر با مدلهای تولید تصویر (Diffusion Models) کار میکنید، خبر خوبی برایتان داریم! تکنیک جدید «Nunchaku» برای استنتاج (Inference) مدلها با استفاده از کوانتیزاسیون ۴ بیتی به کتابخانه Diffusers اضافه شد.
این قابلیت به توسعهدهندگان کمک میکند تا مدلهای سنگین دیفیوژن را با سرعت بسیار بالاتر و مصرف حافظه کمتر، بدون افت کیفیت چشمگیر، روی سختافزارهای معمولی اجرا کنند. یک گام بزرگ دیگر برای در دسترستر کردن هوش مصنوعی مولد! 🎨✨
نویسی
منبع: Hugging Face Blog