محققان در یک پژوهش جدید و بسیار مهم، روشی به نام «استخراج هسته الگوریتمی» (ACE) معرفی کردهاند که به ما کمک میکند بفهمیم ترنسفورمرها در واقع چه کارهایی را «باید» انجام دهند، نه اینکه صرفاً به صورت تصادفی در فرآیند آموزش چه چیزی یاد گرفتهاند.
نکات کلیدی این دستاورد:
🔹 این روش نشان میدهد که چگونه مدلهای بزرگ (مثل LLaMA-3.1 و Qwen2.5) در وظایف خاصی مثل «توافق فعل و فاعل» از مسیرهای محاسباتی مشابه و مشترکی استفاده میکنند.
🔹 محققان دریافتند که افزونگی عملکردی در مدلها باعث میشود فرآیند یادگیری از حفظ کردن به سمت تعمیمدهی (Generalization) سریعتر حرکت کند.
🔹 این یعنی درکِ دقیقترِ ساختارِ درونی مدلها و تسلطِ بیشتر بر عملکرد هوش مصنوعی در آینده.
این کشف دریچهای جدید به سمت «تفسیرپذیری» (Interpretability) مدلهای بزرگ باز میکند تا هوش مصنوعی برایمان کمتر شبیه به یک جعبه سیاه باشد! 🧠✨
منبع: arXiv AI