یکی از چالشهای اصلی کوچکسازی (کوانتیزاسیون) مدلهای زبانی بزرگ، افزایش سوگیری (Bias) و کاهش دقت آنهاست. حالا محققان با معرفی «Fair-GPTQ»، اولین راهکار برای کاهش تعصب در مدلهای فشرده شده را ارائه دادهاند.
این روش با اعمال محدودیتهای عدالتمحور در فرآیند کوانتیزاسیون، نه تنها حافظه و سرعت مدل را حفظ میکند، بلکه با حذف سوگیریهای جنسیتی، نژادی و مذهبی، باعث میشود مدلهای سبکتر، خروجیهای سالمتر و عادلانهتری تولید کنند. 🧠✨
منبع: arXiv NLP