تفسیرپذیری (Explainability) یکی از بزرگترین چالشهای هوش مصنوعی است. حالا محققان چارچوب جدیدی به نام «APEX» معرفی کردهاند که انقلابی در نحوه درک ما از عملکرد «شبکههای عصبی گراف» (GNN) ایجاد میکند.
با ابداع معماری جدیدی به نام PolyGIN، دانشمندان موفق شدهاند محاسبات پیچیده «Aumann-Shapley» را برای فهمِ دقیقِ خروجی مدلها، بدون تقریبهای رایج و خطاهای عددی، به صورت کاملاً دقیق (Exact) انجام دهند. این یعنی از این پس میتوانیم دقیقاً بفهمیم کدام ویژگیها یا گرهها در یک شبکه عصبی باعث اتخاذ یک تصمیم خاص شدهاند.
این دستاورد نه تنها دقت مدلها را حفظ میکند، بلکه وفاداری تفسیرها را هم به شکل چشمگیری افزایش میدهد. پیشرفت در «هوش مصنوعیِ شفاف» خبر خوشی برای آینده دنیای دادههاست! 🚀
منبع: arXiv Machine Learning