محققان در مطالعه جدیدی به سراغ نقد روشهای «تفسیرپذیری» (xAI) رفتند. 🤖 این تحقیق نشان میدهد که ابزارهای رایج برای توضیح عملکرد مدلهای هوش مصنوعی (مانند نقشههای حرارتی)، به شدت به تنظیمات پارامترها و نحوه تغییرات در دادههای ورودی حساس هستند.
در واقع، این تیم با بررسی پروژهای برای تشخیص سیل از تصاویر ماهوارهای (SAR)، ثابت کردند که انتخابهای جزئی در طراحی این روشها میتواند منجر به تولید توضیحات متناقض و گمراهکننده شود! این یافته هشدار مهمی برای محققان است که تفسیرپذیری را نه به عنوان یک خروجی ساده، بلکه به عنوان یک فرآیند حساس و دقیق در طراحی مدلهای هوش مصنوعی ببینند.
منبع: arXiv Computer Vision