محققان در مطالعهای جدید به بررسی یک مشکل ساختاری مهم در «تفسیرپذیری شبکههای عصبی گرافی» (GNN) پرداختهاند. مسئله اینجاست که مدلهای فعلی هنگام کار با دادههای متقارن (مانند ساختارهای شیمیایی)، در انتخاب ویژگیهای برتر (Top-k) دچار نوعی «بینظمی» میشوند.
به زبان ساده، وقتی دو بخشِ کاملاً مشابه در یک مولکول وجود دارد، الگوریتم به دلیل ماهیتِ کدنویسیاش، بهطور تصادفی یکی را انتخاب میکند که این کار از نظر علمی دقیق نیست. محققان ثابت کردند که این مشکل، یک نقص فنی ساده نیست، بلکه یک «مانع ساختاری» است. آنها حتی با استفاده از زبان برنامهنویسی Lean 4، معیاری طراحی کردهاند که تشخیص میدهد آیا خروجیِ مدل در این شرایط قابل اعتماد است یا خیر.
این تحقیق نشان میدهد که بسیاری از مدلهای فعلی در مواجهه با دادههای متقارن دچار خطا میشوند و نیاز به بازنگری جدی دارند. دنیای GNNها هر روز پیچیدهتر میشود!
های_عصبی
منبع: arXiv AI