حتماً میدانید که برای اجرای مدلهای هوش مصنوعی روی سختافزارهای معمولی، آنها را «کوانتایز» (Quantize) یا فشرده میکنند. اما تحقیقات جدیدی که در arXiv منتشر شده، هشدار میدهد که این فرآیند بیخطر نیست! 🧐
محققان با معرفی بنچمارک جدید «QuantiBias» کشف کردند که فرآیند فشردهسازی میتواند باعث شود مدلهای زبانی در پاسخهای آزاد خود، تا ۲۷٪ بیشتر نسبت به نسخه اصلی دچار سوگیری (Bias) و کلیشههای جنسیتی یا نژادی شوند؛ آن هم در حالی که مدل در تستهای استاندارد ایمنی، همچنان «خوب» به نظر میرسد.
این مطالعه روی مدلهای محبوبی مثل Qwen و Gemma انجام شده و نشان میدهد که فشردهسازی، قابلیتهای منطقی مدل را حفظ میکند اما ناخواسته رفتارهای تبعیضآمیز آن را تقویت میکند. این یک زنگ خطر مهم برای توسعهدهندگانی است که امنیت هوش مصنوعی برایشان اولویت دارد. 🛡️
منبع: arXiv NLP