تحقیقات جدیدی روی ۷ مدل زبانی بزرگ (LLM) انجام شده که نشان میدهد این مدلها اغلب دچار «سوگیری همگنی» (Homogeneity Bias) هستند؛ به این معنا که تمایل دارند گروههای خاصی از جوامع (مانند آمریکاییهای اسپانیاییتبار یا آسیاییتبار) را بسیار شبیهتر از آنچه هستند نشان دهند.
نکته جالب اینجاست که این سوگیری حتی با تغییر تنظیمات دمای مدل (Temperature) یا روشهای مختلف دریافت هویت افراد، همچنان پایدار باقی میماند. این پژوهش زنگ خطری برای توسعهدهندگان است تا در مسیر کاهش تبعیض و افزایش انصاف در سیستمهای هوش مصنوعی، دقت بیشتری به خرج دهند.
به نظر شما چطور میتوان خروجیهای مدلها را به دور از کلیشههای نژادی و فرهنگی تنظیم کرد؟ 🤔
منبع: arXiv Computer Vision