🧠 آیا مدل‌های زبانی واقعاً فکر می‌کنند؟ بررسی مکانیزم‌های «تفکر» در هوش مصنوعی

تا حالا فکر کردید وقتی مدل‌های زبانی (LLMs) در حالت «تفکر» قرار می‌گیرند، واقعاً چطور اطلاعات را تحلیل می‌کنند؟ پژوهش جدیدی روی ۱۰ مدل مختلف انجام شده تا بفهمیم آیا این مدل‌ها در زمان مواجهه با عدم قطعیت، واقعاً از «شواهد» به درستی استفاده می‌کنند یا خیر.

نتایج جالب هستند: مدل‌ها در حالت تفکر، تصمیمات مبتنی بر ارزش را تقویت کرده و نویزهای اضافه را کاهش می‌دهند؛ اما هنوز تا رسیدن به یک «کنجکاوی» انسانی برای اکتشاف اطلاعات جدید فاصله دارند. این تحقیق به ما کمک می‌کند تا بهتر بفهمیم چطور مدل‌ها با ابزارهای «متاشناختی» (فراشناخت) به کنترل و نظارت بر پاسخ‌های خود می‌پردازند.

این یعنی قدمی بزرگ برای ساخت هوش مصنوعی‌های منطقی‌تر و قابل‌اعتمادتر! 🚀

منبع: arXiv Machine Learning