پژوهشگران در مطالعهای جدید، عملکرد مدلهای هوش مصنوعی برای پیشبینی ریسک ابتلا به دیابت نوع ۲ را زیر ذرهبین بردهاند. این تحقیق نشان میدهد که اگرچه مدلهای یادگیری ماشین در آزمایشهای اولیه دقت بالایی دارند، اما در دنیای واقعی و با دادههای متنوع، با چالش «عدالت الگوریتمی» روبرو هستند.
نتایج این تحقیق تأکید میکند که عملکرد مدلها در گروههای سنی مختلف متفاوت است و گاهی کسانی که بیشترین نیاز به تشخیص دقیق دارند، با کمترین دقت از سوی هوش مصنوعی مواجه میشوند. این مطالعه یادآوری مهمی است که برای استفاده بالینی از هوش مصنوعی، علاوه بر دقت، باید «عدالت و شفافیت» مدلها را نیز تضمین کنیم.
منبع: arXiv AI