پژوهش جدیدی پدیدهای نگرانکننده به نام «شکاف عدم توجه» (Inattentional Gap) را در مدلهای زبانی و بینایی شناسایی کرده است. این تحقیق نشان میدهد که وقتی به یک مدل هوش مصنوعی وظیفهای خاص محول میکنیم، هوش مصنوعی بهطور خودکار روی همان هدف متمرکز شده و سیگنالهای حیاتی و خطرناکِ اطرافش را نادیده میگیرد؛ حتی اگر توانایی تشخیص آنها را داشته باشد!
در آزمایشهای انجامشده روی تشخیصهای پزشکی و سیستمهای رانندگی خودکار، نرخ گزارشدهیِ مدلها در هنگامِ دریافت دستورات متمرکز، بهشدت افت کرد. این یعنی مدل میتواند در معیارهای بنچمارک عالی عمل کند، اما در دنیای واقعی به دلیل نادیده گرفتن خطراتِ غیرمنتظره، منجر به فاجعه شود.
راهکار محققان؟ استفاده از یک «منتقد مستقل» که به صورت جداگانه تمامِ خروجیها را بررسی کند تا اشتباهات مدل نادیده نماند. این کشف، زنگ خطری جدی برای توسعهدهندگان سیستمهای حساس (مثل پزشکی و خودروهای خودران) است. 🧠🛡️
منبع: arXiv AI