محققان در پژوهش جدیدی، راهکار هوشمندانهای برای بهبود «هوش مصنوعی قابلتفسیر» (XAI) در حوزه بینایی ماشین ارائه کردهاند. در روشهای سنتی برای تحلیل عملکرد مدل (مانند LIME)، پیکسلها بهصورت مصنوعی حذف یا تغییر داده میشدند که اغلب باعث ایجاد نویز و نتایج غیرواقعی میشد.
در این متد جدید، با استفاده از تکنیک «Inpainting» (ترمیم تصویر)، تغییرات روی تصاویر بهصورت واقعگرایانه و منطبق با توزیع دادههای اصلی انجام میشود. این کار باعث میشود تا توضیحاتی که مدل برای تصمیمات خود ارائه میدهد، بسیار دقیقتر و قابلاعتمادتر باشد.
این پیشرفت گامی مهم در جهت فهم بهتر فرآیندهای پیچیده در مدلهای بینایی ماشین است. 🧠💡
منبع: arXiv Machine Learning