🔍 هوش مصنوعی در پزشکی: آیا مدل‌ها به «میان‌بر» تکیه می‌کنند؟ 🏥🤖

یکی از چالش‌های بزرگ در استفاده از هوش مصنوعی برای تحلیل تصاویر پزشکی (مثل ECG)، پدیده «یادگیری میان‌بر» یا اثر «هانس باهوش» است. در این حالت، مدل به جای یادگیری مورفولوژی واقعی موج نوار قلب، به ویژگی‌های حاشیه‌ای و نویزهای تصویر تکیه می‌کند که می‌تواند در تشخیص‌های بالینی گمراه‌کننده باشد.

محققان در این پژوهش جدید، با استفاده از مدل‌های CNN و بررسی مجموعه‌ای از داده‌های کنترلی (مانند تصاویر تار شده یا دارای آرتیفکت‌های مصنوعی)، نشان دادند که چگونه می‌توان شفافیت و قابلیت اطمینان مدل‌های تشخیصی را ارزیابی کرد. این مطالعه تاکید می‌کند که دقت بالا در مدل‌های هوش مصنوعی همیشه به معنای درک درست از داده‌های پزشکی نیست و باید برای استفاده بالینی، مسیرهای یادگیری مدل را به‌دقت تحلیل کرد.

منبع: arXiv AI