محققان در مقالهای تازه از رویکردی جدید برای تحلیل و طبقهبندی ساختارهای «تکینه» (Singular Structure) در شبکههای عصبی آموزشدیده رونمایی کردند. این روش که نیازی به محاسبات سنگین و فرآیندهای پیچیده بهینهسازی ندارد، به متخصصان اجازه میدهد تا «مسیرهای مرده» (Dead Directions) را در مدلهای هوش مصنوعی شناسایی کنند.
با این تکنیک، میتوان به دقت تشخیص داد که چرا یک لایه خاص در مدل رفتاری متفاوت نشان میدهد و تفاوت بین یک تقارن ساده و یک ویژگی ساختاری عمیق را درک کرد. این روش روی مدلهای محبوب مانند ترنسفورمرها و شبکههای کانولوشن به خوبی کار میکند و گامی مهم برای درک «جعبه سیاه» هوش مصنوعی محسوب میشود. 🤖💡
منبع: arXiv Machine Learning