تا حالا دقت کردید که هوش مصنوعی گاهی یک مسئله ریاضی را در قالب «کد برنامهنویسی» درست حل میکند، اما در قالب «متن» به اشتباه میافتد؟
محققان در مطالعهای جدید روی مدلهای Llama-3، به نتایج جالبی رسیدهاند:
۱. مشخص شد که نورونهای خاصی در مدلهای زبانی مسئول استراتژیهای ریاضی (مثل جمع و تفریق) هستند.
۲. این نورونها بین فرمتهای مختلف (نمادها، متن و کد پایتون) مشترک هستند.
۳. علت اصلی خطاها، نه «نقص در مدار محاسباتی»، بلکه «تغییر در وضعیت فعالسازی» این نورونهاست.
به زبان ساده، مغز مدل به دانش ریاضی دسترسی دارد، اما بسته به نوع سوال، ممکن است نورونهای مربوطه به درستی فعال نشوند. حالا با این یافته، میتوان با مداخله در فعالسازی این نورونها، دقت استدلال مدلها را به شدت افزایش داد! 🚀
منبع: arXiv NLP