آیا الگوریتمهای هوشمند که برای شناسایی پولشویی (AML) در بانکها استفاده میشوند، منصفانه عمل میکنند؟ محققان در پژوهش جدیدی به سراغ این موضوع رفتهاند که آیا مدلهای یادگیری ماشین در فرآیند تحلیل تراکنشهای بانکی، دچار تبعیض علیه گروههای خاص میشوند یا خیر.
این تیم با استفاده از روشهای «ضدواقعی» (Counterfactual) توانستهاند تأثیر ویژگیهای حساس (مثل ملیت یا رفتارهای مالی) را بر تصمیمگیری مدلها بررسی کنند. نتیجه جالب و البته نگرانکننده این است: مدلهایی که دقت بالاتری در پیشبینی دارند، اغلب بیشتر در معرض رفتارهای غیرمنصفانه و سوگیری قرار میگیرند!
این تحقیق گامی مهم برای ایجاد تعادل بین «دقت پیشبینی» و «عدالت اخلاقی» در سیستمهای مالی دنیاست.
تک
منبع: arXiv Machine Learning