تحقیقات جدید در حوزه مدلهای زبانی نشان میدهد که حتی پیشرفتهترین مدلها مثل GPT-5.4، کلاود و دیگر مدلهای بزرگ، در پردازش اطلاعات دچار یک «نقطه کور» عجیب هستند. 🧐
این مطالعه نشان میدهد که اگرچه این مدلها میتوانند آمارهای جعلی را در حالت تکمنبعی تشخیص دهند، اما وقتی اطلاعات را از منابع مختلف ترکیب میکنند، این توانایی را از دست میدهند! در واقع، مدلها به جای بررسی صحت اعداد، فقط به ظاهرِ متن و «لحن متدولوژی» تکیه میکنند. یعنی یک آمار غلط که در قالب علمی بیان شده باشد، به اندازه یک واقعیت علمی برای آنها معتبر است.
این یعنی هوش مصنوعی در تحلیلهای پیچیده، بیشتر از آنکه «متفکر» باشد، «تقلیدکننده» است و این موضوع چالش بزرگی برای استفاده از AI در تصمیمگیریهای حساس محسوب میشود. ⚠️
منبع: arXiv AI