محققان روش جدیدی به نام «Interventional Grounding Audits» معرفی کردهاند که میتواند مچ مدلهای زبانی (مثل GPT-4o) را هنگام «هذیان گفتن منطقی» بگیرد! 🧐
شاید برایتان پیش آمده باشد که هوش مصنوعی پاسخی درست بدهد، اما با استدلالی غلط! این روش جدید با دستکاری فرضیات مدل، بررسی میکند که آیا مراحل استدلال زنجیرهای (CoT) واقعاً به منطق وابسته است یا فقط شبیهسازیِ ظاهرِ آن است. نتایج نشان میدهد که بخش بزرگی از استدلالهای مدلها، علیرغم درست بودن پاسخ نهایی، فاقد پشتوانه منطقی واقعی هستند.
این یک قدم بزرگ برای قابلاعتمادتر کردن هوش مصنوعی در محیطهای حساس علمی و فنی است! 🚀
منبع: arXiv AI