🧠 چرا هوش مصنوعی گاهی «درک واقعی» ندارد؟

یک مقاله جدید و بسیار جالب در arXiv منتشر شده که به یک چالش عمیق در مدل‌های زبانی بزرگ (LLM) پرداخته است: «پارادوکس انسجام دوطرفه»!

خلاصه این پژوهش می‌گوید مدل‌های هوش مصنوعی دچار یک شکاف بین «دانستنِ چگونه» (مهارت عملی) و «دانستنِ اینکه» (توضیح منطقی) هستند. به زبان ساده‌تر:

۱. گاهی هوش مصنوعی کاری را درست انجام می‌دهد اما دلیل موفقیتش را اشتباه تحلیل می‌کند (دقیق عمل می‌کند، اما بدون درک واقعی).
۲. گاهی توضیحاتِ به‌شدت دقیق و علمی می‌دهد، اما نمی‌تواند آن را به یک اقدام عملی موفق تبدیل کند.

این تحقیق هشدار می‌دهد که صرفِ «خروجی درست» یا «توضیح منطقی» کافی نیست و ما به چارچوب‌های جدیدی برای ارزیابی «درک» در هوش مصنوعی نیاز داریم. به نظر شما هوش مصنوعی واقعاً می‌فهمد چه می‌گوید یا فقط در کنار هم چیدن کلمات استاد شده است؟ 🤔

منبع: arXiv AI