یکی از بزرگترین چالشهای استفاده از هوش مصنوعی در پزشکی، مشکل «جعبه سیاه» بودن مدلهاست؛ یعنی پزشک نمیداند مدل بر چه اساسی تشخیص را انجام داده است.
محققان در مقاله جدیدی از فریمورک «CounterFundus» رونمایی کردهاند که از مدلهای CycleGAN برای تولید تصاویر «سالم» از روی تصاویر بیمار استفاده میکند. این روش به پزشکان اجازه میدهد تفاوتهای ایجاد شده را بهصورت بصری مشاهده و دقیقتر علت بیماری را درک کنند. علاوه بر این، معیاری به نام CCAS نیز برای ارزیابی میزان انطباق این توضیحات با منطقِ تشخیصِ مدل معرفی شده است. گامی بلند به سمت هوش مصنوعیِ قابلاعتماد در کلینیکهای چشمپزشکی! 🏥✨
منبع: arXiv Computer Vision