محققان در مطالعه جدیدی به چالش عجیبی با نام «Prior Laundering» یا «پولشوییِ پیشفرضها» پرداختهاند که میتواند دقت مدلهای هوش مصنوعی را در تصویربرداریهای حساس مانند پزشکی و لرزهنگاری زیر سوال ببرد.
ماجرا از این قرار است: وقتی مدلهای هوش مصنوعی با دادههای قدیمی آموزش میبینند، ممکن است در بخشهایی که دادههای جدید کافی نیست، به طور ناخودآگاه «اعتماد به نفس کاذب» نشان دهند. این یعنی مدل ادعای قطعیت میکند، در حالی که این قطعیت نتیجه دانش واقعی نیست، بلکه اثراتِ بایگانیهای قدیمی است که در الگوریتم پنهان شدهاند.
این تحقیق تاکید میکند که توسعهدهندگان باید به جای تکیه بر نتایج نهایی، شفافسازی کنند که مدل در کدام بخشها بر پایه دادههای واقعی تصمیم میگیرد و در کدام بخشها فقط بر اساس باورهای قبلی (Prior) عمل میکند. این موضوع برای آینده هوش مصنوعی در تشخیصهای حساس پزشکی حیاتی است! 🩺💡
منبع: arXiv Machine Learning