🔍 تشخیص تفاوت «واقعیت» از «خطا» در مدل‌های هوش مصنوعی!

دانشمندان ابزار جدیدی به نام NSR (نسبت حساسیت نرمال‌شده) معرفی کرده‌اند که می‌تواند بدون نیاز به دسترسی به فرآیند آموزش، مدل‌های آموزش‌دیده را کالبدشکافی کند! 🧬

این روش به متخصصان کمک می‌کند بفهمند آیا مدل در تصمیم‌گیری‌های خود به ویژگی‌های «علّی و منطقی» تکیه کرده یا فریب داده‌های کاذب و جانبی (Spurious) را خورده است. این دستاورد برای حوزه‌های حساس مثل پزشکی و ژنتیک که داده‌های چندمحیطی دارند، یک گام بزرگ رو به جلو برای افزایش اعتماد به نتایج هوش مصنوعی است. 🤖💡

منبع: arXiv AI