آیا مدلهای هوش مصنوعی واقعاً هندسه دادهها را درک میکنند یا فقط به چکپوینتهای خود وابستهاند؟
محققان در مطالعه جدیدی به سراغ «Sheaf GNNs» رفتند تا بررسی کنند آیا نقشههای یادگرفته شده در این مدلها واقعاً «ارزش وظیفهای» (Task-Level Value) دارند یا صرفاً وابستگی به تنظیمات خاص یک چکپوینت هستند. این تحقیق با تفکیک دقیق بین یادگیریِ واقعی و وابستگی به ساختارهای از پیش تعیینشده، نشان میدهد که بسیاری از مدلهای محبوب، در واقعیت تفاوت عملکرد ناچیزی دارند.
این مقاله دیدگاه مهمی برای مهندسان حوزه گراف و معماری مدلهای عصبی است تا بدانند آیا لایههای یادگرفته شده واقعاً هوشمند هستند یا فقط یک اثر جانبی از آموزش!
های_عصبی
منبع: arXiv Machine Learning
