محققان در مطالعهای جدید به بررسی نحوه یادگیری مدلهای ترنسفورمر در مواجهه با ضرب اعداد صحیح در پیمانههای مرکب پرداختهاند. برخلاف باورهای قبلی که مدلها را محدود به عملیات گروهی میدانستند، این پژوهش نشان میدهد که هوش مصنوعی از طریق یک «توسعه مونوئیدی» و تقسیم فضای ورودی به مناطق جبری محلی، قادر به درک ساختارهای پیچیدهتر است. این یافته گام مهمی در درک «مکانیسمهای عصبی» در مدلهای زبانی است.
این دستاورد علمی ثابت میکند که مغز دیجیتال ترنسفورمرها بیش از آنچه فکر میکردیم، منطق ریاضی و ساختارهای پیچیده را درک میکند! 🤖✨
منبع: arXiv AI