محققان در یک پژوهش تازه، چالش مهمی را در حوزه «هوش مصنوعی توضیحپذیر» (XAI) بررسی کردهاند. آنها متوجه شدند که روشهای فعلی که برای تفسیر تصمیمات مدلهای هوش مصنوعی (در اینجا تحلیل نوار قلب یا ECG) استفاده میشوند، اغلب به جای توجه به الگوهای پزشکیِ حیاتی، صرفاً بر اساس شدت سیگنالها عمل میکنند.
این تحقیق نشان میدهد که بسیاری از مدلهای ترجمه شده از دنیای بینایی کامپیوتر، در تشخیص وضعیتهای حساسی مثل «ایسکمی قلبی» به درستی عمل نمیکنند و نواحی مهمِ تشخیصِ بیماری را نادیده میگیرند. این یافته یادآوری مهمی است که در کاربردهای حساس پزشکی، اعتماد به هوش مصنوعی باید بر اساس مبانی بالینی دقیق و نه فقط تحلیلهای آماری عمومی باشد. 📉
منبع: arXiv Machine Learning