حتماً شنیدهاید که استفاده از هوش مصنوعی برای غربالگری رزومهها، تبعیضهای انسانی را کاهش میدهد. اما نتایج یک تحقیق جدید روی ۸ پلتفرم محبوب هوش مصنوعی، این باور را به چالش کشیده است!
محققان متوجه شدند که بسیاری از این سیستمها در واقع «عادل» نیستند؛ بلکه صرفاً «بیخاصیت» هستند! یعنی به دلیل ناتوانی در تشخیص تفاوتهای کیفی بین رزومهها، بهگونهای خنثی عمل میکنند که انگار همه برابرند. این مطالعه نشان میدهد که برخی مدلها همچنان سوگیریهای جنسیتی و نژادی دارند و در مقابل، برخی دیگر حتی نمیتوانند تجربه کاری مرتبط را از غیرمرتبط تشخیص دهند.
نتیجهگیری مهم: عدالت در هوش مصنوعی فراتر از آمارهای ساده است و ما به استانداردهای سختگیرانهتری برای ارزیابی عملکرد این ابزارها نیاز داریم. نظر شما چیست؟ آیا به تصمیمات استخدامی هوش مصنوعی اعتماد دارید؟ 🤔
منبع: arXiv AI