در دنیای مدلهای زبانی، مفهومی به نام «استدلال نهان» (Latent Reasoning) وجود دارد؛ یعنی مدلها در فضای پنهان خود گامبهگام فکر میکنند تا به پاسخ برسند. اما آیا این گامها واقعاً عامل رسیدن به پاسخ درست هستند یا فقط نمایشیاند؟
پژوهش جدیدی در arXiv نشان داده که:
✅ میزان «وفاداری» این استدلالها به پاسخ نهایی، بستگی به مرحله آموزش و نوع سوال دارد.
✅ در برخی مدلها، این استدلالها با گذشت زمانِ آموزش، تأثیر واقعی خود را از دست میدهند و به نوعی «ویترینی» تبدیل میشوند!
این تحقیق گامی مهم برای درک بهتر ساختار درونی مدلهای بزرگ و افزایش شفافیت (Explainability) آنهاست. فهمیدن اینکه مدل چگونه فکر میکند، کلید ساخت هوش مصنوعی قابلاعتمادتر است. 🧠
منبع: arXiv Machine Learning
