یکی از چالشهای بزرگ در یادگیری ماشین این است که مدلها گاهی به جای یادگیری مفاهیم اصلی، به ویژگیهای غیرمرتبط (Spurious Correlations) تکیه میکنند. مثلاً ممکن است مدل یاد بگیرد که یک شیء را فقط به خاطر رنگ پسزمینهاش تشخیص دهد، نه خودِ شیء!
محققان در مقاله جدیدی روشی به نام «Invariance Pair Guidance» یا به اختصار IPG را معرفی کردهاند که بدون نیاز به دادههای برچسبگذاری شده سنگین، به مدل کمک میکند این میانبرهای اشتباه را شناسایی و اصلاح کند. این روش با استفاده از زوجهای دادهایِ «ضدواقعی» (Counterfactual)، به مدل یاد میدهد که روی ویژگیهای پایدار و اصلی تمرکز کند.
این پیشرفت میتواند راه را برای ساخت مدلهای هوش مصنوعیِ قابلاطمینانتر و دقیقتر در دنیای واقعی هموارتر کند. 🧠✨
منبع: arXiv Machine Learning