تحقیقات جدید نشان میدهد که استفاده از سیستمهای هوش مصنوعی برای تصمیمگیریهای حساس مثل «اعتبار مالی» یا «پیشبینی نرخ تکرار جرم»، میتواند ناخواسته منجر به تبعیض شود!
محققان در این مطالعه دو روش کنترل هوش مصنوعی را بررسی کردند:
1️⃣ حذف موارد نامطمئن (Selective Abstention): که میتواند باعث شود گروههای کمتر دیدهشده، پاسخهای کمتری دریافت کنند.
2️⃣ هشدار درباره عدم قطعیت (Selective Friction): که مدل، پاسخ را همراه با هشداری درباره میزان اطمینانش ارائه میدهد.
نتایج نشان میدهد روش دوم یعنی «اصطکاک انتخابی» (Selective Friction) نه تنها از نظر قانونی در بریتانیا قابلقبولتر است، بلکه تعادل بهتری میان شفافیت و انصاف برقرار میکند. این یک گام مهم برای استفاده مسئولانه از AI در حوزههای حیاتی است! 🔍💡
منبع: arXiv Machine Learning