🔍 تبعیض‌های پنهان در نام‌ها؛ چرا مدل‌های زبانی متفاوت رفتار می‌کنند؟

تحقیقات جدید نشان می‌دهد که مدل‌های زبانی بزرگ (LLM) حتی پیش از پردازش کامل جملات، تحت تأثیر «نام‌ها» قرار می‌گیرند. این مطالعه نشان داده که نام‌های مرتبط با نژادهای مختلف، می‌توانند توزیع پیش‌بینی کلمات بعدی (Entropy) و تنوع پاسخ‌های مدل را تغییر دهند.

نکته جالب اینجاست که مدل‌ها نسبت به نام‌های مرتبط با سیاه‌پوستان، تنوع خروجی بیشتری نشان می‌دهند که برخلاف تصور رایج از سوگیری‌های مدل است. این پژوهش تأکید می‌کند که روش ارزیابی ما (مثل استفاده از برچسب‌های صریح یا نام‌ها) تأثیر مستقیم بر شناسایی یا نادیده گرفتن سوگیری‌ها دارد. 🧠⚖️

منبع: arXiv Computer Vision