محققان در مطالعهای جدید، سیستمهای هوش مصنوعی چندوجهی (Multimodal) را در حوزه تصویربرداری پزشکی (آندوسکوپی) بررسی کردند. نتیجه جالب بود: لزوماً کسب امتیاز بالا در تستها به معنای تحلیل بالینی دقیق و قابل اعتماد نیست!
این مقاله تأکید میکند که برای استفاده از هوش مصنوعی در محیطهای حساس پزشکی، نباید فقط به «دقت» تکیه کرد. بلکه باید بر روی «استدلال منطقی»، «توضیحپذیری» (Explainability) و «شفافیت» مدلها کار کرد تا پزشکان بتوانند به خروجیهای هوش مصنوعی اعتماد کنند. قدم بعدی در دنیای پزشکی هوشمند، توسعه سیستمهایی است که علاوه بر پاسخ درست، دلیل درست بودن آن را هم به خوبی نشان دهند.
منبع: arXiv Computer Vision