محققان به تازگی در مطالعهای جدید به یک نقص اساسی در ارزیابی مدلهای هوش مصنوعی که با دادههای جدولی کار میکنند، پی بردهاند. موضوع اینجاست که معیارهای فعلی معمولاً نمیتوانند وابستگیهای پیچیده بین ستونهای داده را به درستی تشخیص دهند؛ یعنی ممکن است یک مدلِ ضعیف که روابط منطقی بین دادهها را از بین برده، همچنان در تستهای استاندارد، «دقیق» به نظر برسد!
این تیم با معرفی یک ابزار جدید به نام «XGB-C2ST»، راهکاری برای شناسایی این «شکاف وابستگی» (Dependency Gap) ارائه دادهاند که به توسعهدهندگان کمک میکند مدلهای دقیقتر و قابلاعتمادتری برای حوزههای حساس مثل تشخیص تقلب یا تحلیلهای پزشکی بسازند. گامی مهم برای درک بهترِ آنچه مدلهای هوش مصنوعی واقعاً یاد میگیرند. 🧠✨
منبع: arXiv AI