در دنیای تحقیقات هوش مصنوعی، بحث «عدالت الگوریتمی» (Fairness) همیشه داغ است. مطالعه جدیدی که در arXiv منتشر شده، به بررسی تفاوت بین «عدالت علیّ» (Counterfactual Fairness) و «عدالت گروهی» (Group Fairness) در طبقهبندی تصاویر پرداخته است.
نتایج این تحقیق نشان میدهد که مدلهایی که در ظاهر منصف به نظر میرسند (از نظر عدالت علیّ)، لزوماً در سطح گروهها منصف عمل نمیکنند. محققان برای رفع این مشکل، متد جدیدی به نام «تقطیر دانش علیّ» (CKD) پیشنهاد دادهاند تا سوگیریهای پنهان در مدلها کاهش یابد.
این تحقیق گامی مهم برای ساخت هوش مصنوعیهای اخلاقیتر و دقیقتر در تحلیل تصاویر است. نظر شما چیست؟ آیا هوش مصنوعی میتواند به طور کامل از سوگیریهای انسانی دور باشد؟
منبع: arXiv AI