محققان در تازهترین دستاورد خود، مدل جدیدی به نام Loopie را معرفی کردهاند که چالش همیشگیِ «ترنسفورمرهای حلقوی» را حل کرده است. برخلاف مدلهای قبلی که افزایش تعداد پارامترها را به حلقهبندی ترجیح میدادند، Loopie با معماری Mixture-of-Experts (MoE)، بهرهوری بینظیری در استفاده از منابع محاسباتی دارد.
نکته هیجانانگیز؟ این مدل موفق شده است در مسابقات المپیاد جهانی ریاضی (IMO) و فیزیک (IPhO) بدون استفاده از ابزارهای کمکی، مدال طلا کسب کند که نشاندهنده قدرت استدلال فوقالعاده آن است. 🔥
منبع: arXiv AI