یکی از چالشهای بزرگ در استفاده از هوش مصنوعی برای غربالگری رزومهها، بازتولید ناخودآگاه سوگیریهای جنسیتی است. حتی وقتی نشانههای آشکار حذف میشوند، مدلهای زبانی همچنان ممکن است جنسیت را از محتوای متنی استنتاج کنند.
محققان در یک پژوهش جدید، ۹ مدل مختلف را بررسی کردهاند تا راهکارهایی برای کاهش این «نشت جنسیتی» (Gender Leakage) پیدا کنند. آنها با استفاده از تکنیکهای «یادگیری تقابلی» (Adversarial Learning) و مدلسازی چندهدفه، تلاش کردهاند تعادلی میان دقت در انتخاب افراد و رعایت عدالت در استخدام ایجاد کنند. این یافتهها نشان میدهد که صرفاً پاکسازی متن کافی نیست و باید از استراتژیهای هوشمندتر برای جلوگیری از تبعیض استفاده کرد. 🔍✨
منبع: arXiv Machine Learning