🧠 چرا هوش مصنوعی گاهی به «بیراهه» می‌رود؟ کشف معمای یادگیری در مدل‌های عصبی

محققان در مطالعه جدیدی به بررسی یکی از چالش‌های بزرگ یادگیری ماشین پرداخته‌اند: چرا مدل‌های عصبی تمایل دارند به جای یادگیری ویژگی‌های اصلی و منطقی (مثل تابع XOR)، به میان‌برهای اشتباه و همبستگی‌های کاذب (Spurious Correlations) تکیه کنند؟

این تحقیق نشان می‌دهد که الگوریتم‌های بهینه‌سازی مثل SGD به‌طور غریزی ابتدا سراغ این ویژگی‌های کاذب می‌روند و حتی فرآیند یادگیری آن‌ها را با سرعت نمایی انجام می‌دهند! این «میان‌بر زدن» هوش مصنوعی باعث می‌شود مدل در داده‌های پیچیده، سیگنال‌های اصلی را نادیده بگیرد.

این پژوهش درک ما را از نحوه شکل‌گیری رفتار مدل‌های عصبی عمیق‌تر کرده و به متخصصان کمک می‌کند تا هوش مصنوعی‌های دقیق‌تر و قابل‌اعتمادتری بسازند که اسیر پیش‌فرض‌های نادرست نشوند.

منبع: arXiv Machine Learning