یکی از بزرگترین چالشهای استفاده از مدلهای هوش مصنوعی (MLLMs) در دنیای پزشکی، مسئله «توهم» یا تولید پاسخهای غلط است که میتواند در محیطهای بالینی بسیار خطرناک باشد. 🏥
محققان روش جدید و کارآمدی به نام CEBaG را معرفی کردهاند که بدون نیاز به محاسبات سنگین و مدلهای جانبی، میتواند توهمات مدلهای بینایی-زبانی را تشخیص دهد. این روش با بررسی «اعتماد به نفس» مدل و «شواهد بصری»، با دقت بسیار بالایی متوجه میشود که آیا پاسخ مدل بر اساس واقعیت است یا ساخته ذهنِ مدل!
این پیشرفت نه تنها دقت سیستمهای تشخیص پزشکی را افزایش میدهد، بلکه هزینههای پردازشی را نیز به شدت کاهش میدهد تا این تکنولوژی در کاربردهای واقعی در دسترستر باشد. 💡
منبع: arXiv AI