محققان در مطالعهای جالب متوجه شدند مدلهای پیشرو (مانند DeepSeek V3 و Kimi K2) حتی زمانی که هیچ «زنجیره فکری» (CoT) قابل مشاهدهای در خروجی ندارند، از توکنهای سادهای مثل «نقطه» یا اعداد برای انجام محاسبات پیچیده و استدلالهای چندمرحلهای استفاده میکنند! 🕵️♂️
نکته هیجانانگیز اینجاست: اگرچه این محاسبات در ظاهرِ متن پنهان است، اما دانشمندان راهی پیدا کردهاند که با خواندن وضعیتهای پنهان (Hidden States) مدل، این فرآیند استدلالی را با دقت ۹۵٪ رمزگشایی کنند. این یعنی برخلاف تصور، هوش مصنوعی نمیتواند «تفکر» واقعیاش را به طور کامل از ناظران انسانی پنهان کند! این کشف، گامی بزرگ برای نظارت دقیقتر بر رفتار مدلهای هوش مصنوعی است.
منبع: arXiv AI