یکی از بزرگترین چالشهای دنیای «هوش مصنوعی قابلتفسیر» (XAI)، وابستگی روشهای فعلی به ایجاد تغییرات در ورودی است که باعث کاهش دقت در تحلیل مدل میشود. حالا محققان پارادایم جدیدی به نام Activation-Deactivation (AD) را معرفی کردهاند که به جای تغییر ورودی، بخشهایی از مدل را «خاموش» میکند تا علت تصمیمات آن را بهتر درک کنیم.
✨ چرا این خبر مهم است؟
با پیادهسازی این روش در مدلهای CNN (تحت عنوان ConvAD)، میتوان بدون نیاز به آموزش مجدد، توضیحاتی بسیار دقیقتر، پایدارتر و قابلانتقالتر از عملکرد مدل دریافت کرد. این یعنی شفافیت بیشتر و اعتماد بالاتر به سیستمهای هوش مصنوعی در محیطهای واقعی!
منبع: arXiv AI