یکی از چالشهای بزرگ در کاربرد هوش مصنوعی در پزشکی، «جعبه سیاه» بودن مدلهاست که باعث میشود درک علت خطاهای آنها سخت باشد. محققان به تازگی فریمورک جدیدی به نام Med-SegLens را معرفی کردهاند که میتواند مدلهای پیچیده بخشبندی تصاویر پزشکی (مثل SegFormer و U-Net) را کالبدشکافی کند!
این ابزار با استفاده از «خودرمزگذارها» (Autoencoders)، ویژگیهای نهفته مدل را تحلیل میکند. نتایج شگفتانگیز است:
✅ شناسایی دلایل اصلی خطاهای تشخیصی
✅ اصلاح خطاها بدون نیاز به آموزش مجدد (Retraining) مدل
✅ بهبود چشمگیر دقت (Dice score) از ۳۹٪ به ۷۴٪ در موارد تست شده.
این دستاورد یک گام بزرگ برای اعتماد بیشتر به هوش مصنوعی در مراکز درمانی است.
منبع: arXiv Computer Vision